基于灰色Verhulst模型和BP神经网络的一种新型混合灰色神经网络时间序列预测模型外文翻译资料

 2022-12-12 17:13:21

A New Hybrid Grey Neural Network Based on Grey Verhulst Model and BP Neural Network for Time Series Forecasting

Deqiang Zhou
School of Information and Mathematics, Yangtze University, Jingzhou, China

Abstract— The advantages and disadvantages of BP neural network and grey Verhulst model for time series prediction are analyzed respectively, this article proposes a new time series forecasting model for the time series growth in S-type or growth being saturated. From the data fittings viewpoint, the new model named grey Verhulst neural network is established based on grey Verhulst model and BP neural network. Firstly, the Verhulst model is mapped to a BP neural network, the corresponding relationships between grey Verhulst model parameters and BP network weights is established. Then, the BP neural network is trained by means of BP algorithm, when the BP network convergences, the optimized weights can be extracted, and the optimized grey Verhulst neural network model can be obtained. The experiment results show that the new model is effective with the advantages of high precision, less samples required and simple calculation, which makes full use of the similarities and complementarities between grey system model and BP neural network to settle the disadvantage of applying grey model and neural network separately. It is concluded that grey Verhulst neural network is a feasible and effective modeling method for the time series increasing in the curve with S-type.

Index Terms— Time Series Prediction, BP Neural Network, Grey Verhulst Model, Grey Neural Network, Grey Verhulst Neural Network

I. Introduction
Time series prediction refers to the process by which the future values of a system is forecasted based on the information obtained from the past and current data points. At present, there are a lot of methods for time series prediction, from traditional statistical method such as ARMA (Auto Regressive Moving Average) model to artificial intelligence based approaches, the core of these models is to establish a prediction model. Neural Network(NN) based models are widely used as an artificial intelligence-based approach, back propagation(BP) being the most widely used technique for updating the parameters of the model. BP neural network is the most used neural network at present. It
has unique approximation ability and simple structure, and it is a neural network with good performance. The BP learning process works in small iterative steps , and the network produces some output based on the current state of its synaptic weights (initially, the output will be random). This output is compared to the known-good output, and a mean-squared error signal is calculated. The error value is then propagated backwards through the network, and small changes are made to the weights in each layer. The weight changes are calculated to reduce the error signal for the case in question. The
whole process is repeated for each of the example cases, then back to the first case again, and so on. However, not only are the statistical models not as accurate as the neural network-based approaches for nonlinear problems, they may be too complex to be used in predicting future values of a time series. One major criticis m about the BP model is that it demands a great deal of training data and its application was inhibited largely by the slow convergence rate and overprolonged training time, primarily the results of inappropriate sample preprocessing for a large initial sample domain. On the other hand, it is well known that selecting the number of neurons in hidden layer is also an important and tough problem because it affects the overall performance of neural networks. However, there is still no definite theory to settle it out.

As the neural network, the large amount of data that can be used to provide information, but also increase the difficulties of dealing with these data. Grey system theory is an interdisciplinary scientific area that was first introduced in early 1980s by Deng. In the field of information research, deep or light colors represent information that is clear or ambiguous, respectively. Meanwhile, black indicates that the researchers have absolutely no knowledge of system structure, parameters and characteristics, while white represents that the information is completely clear. Colors between black and white indicate systems that are not clear, such as social, economic or weather systems. The fields covered by grey theory include systems analysis, data processing, modeling, prediction, decision making and control. The grey theory mainly works on systems analysis with poor, incomplete or uncertain messages. Because the grey system model needs little origin data, has simple calculate process and higher forecasting accuracy, it has been widely used in the time series prediction of a lot of research fields. In these studies and the others, grey system theory-based approaches can achieve good performance characteristics when applied to real-time systems, since grey predictors adapt their parameters to new conditions as new outputs become available. Because of this reason, grey predictors are more robust with respect to noise and lack of modeling information when compared to conventional methods.A grey prediction model is one of the most important parts in grey system theory, and that, the grey Verhulst model is a special kind of model within the grey system. The grey Verhulst model is used to forecast the raw sequence growth in S-type or growth being saturated. However, there are many defects in traditional grey model.First, the traditional model need to face the reasonable selection of background value. On the other hand, in order to obtain forecasting model, in this model, parameters which obtained from the grey difference equation is substituted into the gre

剩余内容已隐藏，支付完成后下载完整资料

基于灰色Verhulst模型和BP神经网络的一种新型混合灰色神经网络时间序列预测模型

周德强

中国荆州长江大学信息与数学学院

摘要—本文分别分析了BP神经网络和灰色Verhulst模型对时间序列预测的优缺点，并提出了一种用于S型或增长饱和的时间序列的新型时间序列预测模型。从数据拟合来看，基于灰色Verhulst模型和BP神经网络建立了名为灰色Verhulst神经网络的新模型。首先，将Verhulst模型映射到BP神经网络，建立灰色Verhulst模型参数和BP网络权重之间的对应关系。然后，BP神经网络通过BP算法训练，当BP网络收敛时，可以提取优化权重，并且可以获得优化的灰色Verhulst神经网络模型。实验结果表明，该新模型具有精度高、所需样本少、计算简单的优点，充分利用灰色系统模型与BP神经网络的相似性和互补性，克服了单独应用灰色模型和神经网络的缺点。总的来说，灰色Verhulst神经网络是一个对以S型曲线递增的时间序列可行有效的建模方法。

关键词—时间序列预测，BP神经网络，灰色Verhulst模型，灰色神经网络，灰色Verhulst神经网络

I. 介绍

时间序列预测是指基于从过去和当前数据点获得的信息来预测系统的未来值的过程。目前，有很多时间序列预测方法，从传统的统计方法如ARMA（自回归移动平均）模型到基于人工智能的方法，这些模型的核心是建立一个预测模型。基于神经网络（NN）的模型被广泛用作基于人工智能的方法，反向传播（BP）是用于更新模型的参数的最广泛使用的技术。BP神经网络是目前最常用的神经网络。它具有独特的近似能力和简单的结构，它是一个具有良好性能的神经网络。BP学习过程在小的迭代步骤中工作，并且网络基于其突出权重的当前状态产生一些输出（最初，输出将是随机的）。将该输出与已知良好输出进行比较，并计算均方误差信号。然后，误差值通过网络向后传播，并且对每个层中的权重进行小的改变。计算重量变化以减小所讨论的情况的误差信号。对于每个示例情况重复整个过程，然后再次返回到第一情况，以此类推。然而，不仅统计模型不如用于非线性问题的基于神经网络的方法那样准确，它们可能太复杂而不能用于预测时间序列的未来值。对BP模型的一个主要批评是它需要大量的训练数据，并且其应用主要受到缓慢的收敛速度和过长的训练时间的抑制，主要是对于大的初始样本域的不适当的样本预处理的结果。另一方面，众所周知，选择隐藏层中的神经元的数量也是重要且困难的问题，因为它影响神经网络的整体性能。然而，仍然没有确定的理论来解决它。

作为神经网络，大量的数据可以用来提供信息，也增加了处理这些数据的难度。灰色系统理论是一个跨学科的科学领域，由邓先生在20世纪80年代初开始引入。在信息研究领域，深色或浅色分别表示清楚或模糊的信息。同时，黑色表示研究人员完全不了解系统结构，参数和特性，而白色表示信息完全清楚。黑色和白色之间的颜色表示不清楚的系统，例如社会，经济或天气系统。灰色理论涵盖的领域包括系统分析，数据处理，建模，预测，决策和控制。灰色理论主要用于具有不良，不完整或不确定消息的系统分析。因为灰色系统模型需要很少的原始数据，具有简单的计算过程和较高的预测精度，已被广泛应用于许多研究领域的时间序列预测。在这些研究和其他研究中，基于灰色系统理论的方法可以在应用于实时系统时获得良好的性能特性，因为灰色预测器在新的输出可用时将其参数调整到新的条件。由于这个原因，当与传统方法相比时，灰度预测器对于噪声和建模信息的缺乏更加实用。灰色预测模型是灰色系统理论中最重要的部分之一，并且灰色Verhulst模型是灰色系统内特殊类型的模型。灰色Verhulst模型用于预测S型生长或生长饱和的原始序列。然而，传统灰色模型存在许多缺陷。首先，传统模型需要面对合理选择背景值。另一方面，为了获得预测模型，在该模型中，将从灰色差分方程获得的参数代入灰色微分方程，因此我们也不能避免从差分方程到传统灰色建模的微分方程的跳跃误差。

在实际预测中，同样的问题可以有许多不同的预测方法。给了很多近似法，工程师难以为所研究的问题选择最适当的方法。另一方面，在实际应用中，由于时间序列具有不规则，混沌和非线性特征，很难建立理想的预测模型系统。因此，如果可以结合不同的方法，这将是非常有意义的，这结合了不同模型的优势，并获得了更好的预测精度。随着灰色系统理论和BP神经网络在预报领域的应用，时间序列预测技术取得了巨大的发展。灰色预测模型对一般模型具有非常强的融合强度和可穿透性，因此可以与其他模型结合使用，提高预测精度。因此，对其他模型组合的灰色模型进行分析和研究，建立组合预测模型。

基于“专家整合”的方法，一些研究者已经整合了GM（1,1）和NN以根据它们的互补优点增强预测。一般来说，结合GM（1,1）和NN的方法可以分为四类：简单组合，串联组合，用神经网络加强灰色系统，借助灰色系统建立神经网络。[12]和[22]中的工作建立了灰色神经网络组合GM（1,1）模型和神经网络。灰色神经网络是一种创新的智能计算方法，充分利用了灰色系统模型和BP神经网络之间的相似性和互补性，克服了分别应用灰色模型和神经网络的缺点。然而，当时间序列以S型曲线递增时，或者时间序列的增量处于饱和阶段时，这是不完美的。其中一个主要原因是这种灰色神经网络模型的结构是基于GM（1,1）模型建立的，因此它具有GM（1,1）模型的缺陷。GM（1,1）的本质是诸如指数函数的模型拟合序列，其请求原始数据具有近似指数增量特性。在这种情况下，灰色神经网络模型的时间序列预测误差将变得更大，并且结果在现实世界中是不可接受的。为了解决这个问题并扩展灰色神经网络模型的应用范围，本文提出了一种新的混合灰色神经网络，将灰色Verhulst模型和BP神经网络结合起来。基于灰色Verhulst模型和BP神经网络的新的灰色神经网络结合了不同模型的优势，并且对于以S型曲线递增的时间序列是完美的。

本文的其余部分安排如下。在第2节中，介绍了灰色Verhulst模型。在第3节中，分析了灰色Verhulst模型对时间序列预测的缺点，本文建立了基于灰色Verhulst模型和BP神经网络的用于时间序列预测的新的混合灰色神经网络。实验结果和讨论在第4节中给出。最后，结论在第5节中得出。

II. 灰色Verhulst模型

灰色Verhulst模型是灰色系统中的一种特殊类型的模型。它已广泛用于许多应用中，以解释人口增加，生物繁殖及其个体生长的现象。灰色Verhulst模型也是时间序列预测模型，构建过程如下：

1）非负原始序列表示为：

  1. 的累积生成运算形式定义为：

其中

  1. 灰色Verhulst模型可以通过构造的一阶微分方程来建立：

方程（3）的解可以通过使用最小二乘法获得，即：

其中

应用逆累积生成操作（IAGO），通过

获得灰色Verhulst模型拟合和预测值。

方程（4）和方程（5）由原始数据序列构造，我们将此模型称为-Verhulst模型。在实际应用中，如果原始数据序列在具有S型的曲线中增加，我们也可以使用它作为“”来直接构造Verhulst方程。Verhulst模型相对适用于描述处于饱和阶段的S型或非负原始序列的增量曲线中的单调多样性过程增加。

III. 基于灰色Verhulst模型和BP神经网络的灰色神经网络

3.1 灰色Verhulst模型和BP神经网络映射关系

我们将直接构建灰色Verhulst模型。我们来考虑下面的非线性函数

其中取任意值。

假设原始序列的AGO数据序列以S型曲线递增或者原始序列的增量处于饱和阶段，与灰色Verhulst模型相比，（6）在处的函数值可以取为在灰色Verhulst模型的相对时间中的预测值，然后从数据拟合的观点，可以通过（6）拟合序列。因此，我们可以通过（6）拟合AGO数据序列，关键问题是如何估计参数。为了获得更好的解，该初始值不取原始序列数据的第一数据，而是取通过数据拟合确定的参数。

由于（6）是非线性的，我们现在通过具有任何精度的可以近似非线性函数的BP网络解决上述问题。

首先，(6)可以改写成下式：

因为，所以

上述方程映射到BP神经网络，网络结构如图1所示：

图1：灰色BP神经网络结构

网络权重和灰色Verhulst模型参数之间的对应关系建立如下：

LD级的临界值是

并且LB级神经元传递函数被取为Sigmoid类型函数，存在确保网络最终达到稳定的高增益区域。其他神经元的传递函数被视为线性函数。

通过上述方法，灰色Verhulst模型映射到BP神经网络。图1显示了这种神经网络结构。建立灰色Verhulst模型参数和BP网络权重之间的对应关系。同时，建立了基于灰色Verhulst模型和BP神经网络的新的灰色神经网络，为简单起见，我们称之为灰色Verhulst神经网络。

3.2 灰色Verhulst神经网络的特性分析

上述灰色Verhulst神经网络是一种混合模型，其结合了灰色Verhulst模型和神经网络的特性。然而，该模型不同于两个单一模型。在这个模型中，传统的灰色Verhulst模型参数估计问题被转换为神经网络权重的优化问题。我们都知道，对于神经网络设计，关键是集中在隐藏层的数量和网络的每一层中的节点数量。适当数量的隐藏层可以最小化网络的系统错误。隐藏层单元的数量与问题的要求和输入/输出单元的数量直接相关。因此，选择最佳数量的隐藏层单元是至关重要的。然而，当问题特别复杂时，很难设计神经网络，因为几乎没有严格的设计标准。本文的灰色Verhulst神经网络也是一个神经网络，这个新的神经网络是基于灰色的Verhulst模型建立的，并提出一些有用的建议，在BP模型中选择一些关键参数。因此，图1显示出这种神经网络结构简单明了。与传统的BP神经网络相比，该模型更加方便和直接。通过数据集训练神经网络，当BP网络收敛时，可以获得优化的网络模型权重，并且可以实现基于BP算法的灰色Verhulst模型的优化建模。然后，应用逆累积生成操作， 由 获得灰色Verhulst模型拟合和预测值，其中

我们可以看到，与灰色Verhulst模型相比，计算更简单，建模过程更直观。 另一方面，它不需要从离散形式到连续形式的变换，因此可以避免从差分方程到微分方程的跳跃误差，并克服了灰色Verhulst模型的缺陷。

IV. 小样本实验验证和讨论

灰色模型由于其显著的特点：用较少的数据建模（适合像4式一样少的数据），以此作为灰色建模和灰色预测的基础。神经网络的吸引力在于它们最适合于解决传统计算方法最难解决的问题。如上所述，灰色Verhulst神经网络是一种混合模型，其结合了灰色Verhulst模型和神经网络的优点。现在，在这一节中，我们通过一个示例来验证灰色Verhulst神经网络的有效性。

4.1 实验数据和设计

我们使用下面的例子用很少的数据和小样本进行实验。原始系列证明如下：

原始序列近似于单峰类型，的AGO系列呈现饱和特性，因此，它适合于灰色Verhulst建模。根据本文提出的方法，建立了具有三个隐层的BP神经网络。网络结构如图1所示。第一级神经元的传递函数采用Log-Sigmoid类型函数，其他神经元的传递函数作为线性函数。

最大训练时段是，允许的容许误差是。将LM（Levenberg-Malquardt）作为训练算法，学习速率由LM算法动态确定。为了使用Matlab6.5编程，当网络达到精度要求时，可以获得优化的灰色Verhulst BP神经网络模型。

通过本文模型获得的结果与传统GM（1,1）模型和灰色Verhulst模型进行比较。为了证明上述模型的准确性，可以比较实际值和预测值。建议使用平均绝对百分比误差（MAPE）方法进行验证。平均绝对百分比误差定义为

其中是实际值，而是预测值，是的绝对百分比误差。

4.2 实验结果和误差分析

与传统的灰色Verhulst模型以及GM（1,1）模型对比，实验结果和MAPE如表1所示。

表1：不同模型的性能比较

剩余内容已隐藏，支付完成后下载完整资料

资料编号：[27189]，资料为PDF文档或Word文档，PDF文档可免费转换为Word

序号

实际值

灰色Verhulst

本文

GM(1,1)

1

1

1

1.0001

1

2

原文和译文剩余内容已隐藏，您需要先支付 30元 才能查看原文和译文全部内容！立即支付

以上是毕业论文外文翻译，课题毕业论文、任务书、文献综述、开题报告、程序设计、图纸设计等资料可联系客服协助查找。

您可能感兴趣的文章