英语原文共 10 页,剩余内容已隐藏,支付完成后下载完整资料
基于信号星座图和深度学习的调制分类
Shengliang Peng,Member,IEEE,Hanyu Jiang,Student Member,IEEE,Huaxia Wang,Student Member,IEEE,Hathal Alwageed,Student Member,IEEE,Yu Zhou, Student Member,IEEE,Marjan Mazrouei Sebdani,and Yu-Dong Yao,Fellow, IEEE
摘要:深度学习(DL)是一种新的机器学习(ML)方法,在许多应用领域都有成功的应用。然而,它在通信系统中的应用还没有得到很好的探索。本文研究了机器学习在调制分类中的应用,这是许多通信系统的一个主要任务。机器学习依赖于大量的数据,对于研究和应用来说,这在通信系统中很容易获取。此外,与机器学习不同的是,深度学习的优点是不需要手动选择特性,这大大降低了调制分类的任务复杂度。在本文中,我们使用了两个基于卷积神经网络(CNN)的深度学习模型:AlexNet和GoogLeNet模型。特别地,我们为卷积神经网络(CNN)开发了几种用网格状拓扑来表示数据格式的调制信号的方法;分析了表示方法对信号分类性能的影响,并与传统的累积量算法和基于线性规划的算法进行了比较。实验结果表明,基于深度学习的调制分类方法具有显著的性能优势和应用可行性。
关键词:卷积神经网络(CNN) 数据转换 深度学习(DL) 调制分类
- 简介
深度学习(DL)是机器学习(ML)的一个分支,它使用许多连续的非线性处理单元层对数据中的高级抽象进行建模。近年来,该技术因其在大数据分析方面的先进能力而得到了广泛的应用。作为最强大的识别/分类工具之一,它已被应用于各个应用领域,例如计算机视觉、自然语言处理、经济学、生物信息学等。在ImageNet大型视觉识别挑战(ILSVRC)的竞赛中,许多研究团队提交了用于大规模目标检测和图像分类的深度学习算法,从1000个类别中识别目标的前5名的算法准确率均超过了95 %。谷歌推出了谷歌神经机器翻译系统,该系统利用了一个八编码器八解码器深度学习网络,在一些测试集上达到了普通双语人工翻译的准确度水平。
虽然深度学习(DL)在许多应用领域得到了广泛的研究,但是它在通信系统中的应用还没有得到很好的研究。对于使用深度学习的调制分类,已经有一些工作报告。本文的重点是研究卷积神经网络(CNN)数据格式中调制信号的表示方法。我们注意到,在机器学习中,支持向量机(SVM)和k近邻(KNN)被用于介质访问控制协议识别和调制分类。本文研究了深度学习在通信系统中的应用,特别是在调制分类方面。在通信系统应用程序中使用深度学习有几个优点。首先,深度学习需要大量的数据,而在通信系统中,由于通信设备数量多、传输数据速率高,可以很容易地获得大量的数据。其次,人工选择特征在通信系统或调制分类中可能是一个重大挑战,而在深度学习中则不需要。第三,随着深度学习技术快速和显著的进步,可以发现其在通信系统的许多复杂的应用中具有相当大的潜力。
在通信系统中使用深度学习的主要问题可能是计算的复杂性。注意深度学习通常包括两个阶段:培训和测试。在训练阶段,大量的数据被输入到深度学习网络来生成一个训练好的模型,这个阶段总是要运行数十亿次的计算,花费几十个小时。在测试阶段,将一个数据示例输入到网络中以推断出一个结果,这个阶段可以在几毫秒内完成,并且计算资源有限。幸运的是,在实际通信系统中实现深度学习时,只有测试阶段经常使用,训练阶段通常是预先进行的,不会带来太多的计算负担。
调制分类是许多民用和军用通信系统中的一个主要问题,如频谱管理、干扰识别、电子战和威胁分析。之前,这个问题已经通过传统的信号处理、人工神经网络(ANN)或ML方法来处理。在文献中,建议使用四阶累积量进行调制分类。在文献中,总结了两类常用的调制分类技术,包括基于概率的方法和基于特征的方法。Nandi和Azzouz设计了一种基于人工神经网络(ANN)的调制识别算法,该算法由三个网络组成,分别包含3层、0层和0层隐含层。在文献中,选择了具有一个隐含层的人工神经网络(ANN)。在文献中,利用MAXNET进行调制分类,MAXNET的前馈网络有两个隐含层,每层有5个神经元。注意,这些ANN具有较少的隐藏层,并且与DL网络不同。在文献中讨论了KNN在调制分类中的应用。最近,针对文献、文献、文献这一问题研究了DL的使用。在文献中,我们建议使用DL算法来实现基于调制识别的信号鉴别,包括全时间特性、频谱特性和几个高阶谱特性。在文献中,研究了DL对复杂时域信号域的适应,我们证明了在文献中使用DL和星座信息进行调制分类的可能性。在文献中,将非负性约束引入到DL自编码网络中进行调制分类。在文献中,提出了基于星座图和深度置信网络来调制识别的方案。
本文讨论了使用深度学习(DL)进行调制分类的问题,我们的贡献如下。首先,我们提出了将复杂信号转换成网格状拓扑(如图像)数据格式的方法,这有助于使用常用的DL网络模型和框架进行分类。其次,分析了常规参数(如复平面选取区域大小和图像分辨率)对分类性能的影响。第三,我们提出并建立了基于卷积神经网络(CNNs)的DL模型进行调制分类,与其他分类算法相比,取得了显著的性能提升。最后,我们对所提出方法的计算复杂度进行举例说明,并且说明了DL在实际通信系统中应用的可行性。本文的其余部分的结构如下:我们首先对DL的架构和模型进行概述;其次我们提出了将调制信号转换成图像的方法,提出了利用CNNs进行调制分类的步骤;最后给出了实验结果,验证了本文性能的优势。
- DL架构和模型
DL的主要思想是建立一个由多层和多个单元组成的“深度”神经网络,每一层抽象出大量的数据。DL的灵感来自于大脑的结构深度和生物神经元的数学模型。从技术上讲,深度神经网络旨在从数据中自主学习不同层次的特征:从原始输入中提取低级特征,从上一级特征表示中提取高级特征。换句话说,它被设计用来自己实现识别模式,而不需要向机器提供手动的特征表示,这就是所谓的数据驱动的特征提取。在传统的ML方法中,有效特征的检测和提取是非常耗时的,并且需要广泛的领域专业知识,而且它们总是受到现实世界中日益复杂的问题的困扰。相比之下,深度神经网络可以通过包含数十亿权值参数的多重非线性变换,将简单的特征集合起来,自动抽象出更复杂的特征。深度神经网络的训练过程是逐步优化这些参数,使其接近从数据中学习到的最优层次表示。一般来说,DL擅长处理将输入向量映射到输出向量的任务,这可以由特定领域的人员或专家来完成,提供设计良好的DL模型和足够大的标记数据来训练。
随着近年来DL技术的快速发展和进步,各种不同的结构被提出并应用于不同的领域,如CNNs、递归神经网络、受限的玻尔兹曼机等。本文对CNN在通信系统中的应用进行了研究。特别地,两个常用的CNN模型:AlexNet和GoogLeNet,被用于性能评估。
- 卷积神经网络
CNNs是由前馈神经网络衍生而来,又称卷积神经网络,在实际应用中得到了广泛的研究(图像处理及语音识别等),CNNs的定义如下。
卷积网络是简单的神经网络,它至少在一层中使用卷积来代替一般的矩阵乘法。
如图1(a)所示,典型的CNN架构有三种层:卷积层、池化层和全连接层。卷积层是CNNs中计算量最大的核心部分。卷积层有两个重要的特性,它们可以改进整个ML系统。
- 稀疏连通:与传统的神经网络中每个输入单元与每个输出单元相互作用不同,CNNs通过使核尺寸小于输入尺寸来实现输入与输出单元之间的稀疏连通,提高了统计效率,降低了内存需求。
- 参数共享:在CNNs中,同一个参数可以被不同神经元多次使用。因此,模型的存储需求可以显著降低。
层
层
层
层
层
层
层
层
11*11卷积/ReLU
标准化
2*2 sub/最大池
11*11卷积/ReLU
标准化
2*2 sub/最大池
3*3卷积/ReLU
3*3卷积/ReLU
3*3卷积/ReLU
最大池
全连接/ReLU
全连接/ReLU
全连接输出
1*1卷积
1*1卷积
上一层
3*3最大池
1*1卷积
3*3卷积
5*5卷积
1*1卷积
过滤浓度
图1. CNN和两个典型的基于CNN的DL模型 (a) CNN的三种图层 (b) AlexNet (c) GoogleNet的先启模块
池化层将某个位置的输出替换为附近输出的相关统计信息。最普遍的池操作之一是最大池,它返回矩形网格内的最大输出值。在池化操作之后,在输入为小的平移时,输出表示不再变化,这极大地提高了网络统计效率。CNNs的全连接层与传统神经网络完全相同,在传统神经网络中,神经元与前一层的所有激活都完全连接。
- AlexNet
AlexNet作为ImageNet分类的标志性模型和ILSVRCrsquo;12的获奖者,以其庞大而深刻的架构为CNN在计算机视觉领域的普及做出了巨大的贡献。AlexNet由5个卷积层和3个完全连接的层组成,具有1000路的softmax层。
为了提高性能和减少训练时间,AlexNet将一些新的特性合并到网络中。首先,不使用传统的神经元激活函数,而是引入一个非饱和非线性神经元作为校正线性单元(ReLUs):,训练过程更快。如图1(b)所示,ReLUs连接到每一个卷积层和全连接层。这篇论文的另一个开创性的贡献是涉及到减少传统ML方法所遭受的过拟合影响的有效技术,这也使得AlexNet的整个架构在实践中是可行的。由于涉及大量的参数和神经元参数(约60000000和650000个神经元),而有限的标记图像对于大多数应用程序,通过提取数据增加随机补丁和改变RGB通道采用的强度实现原始图像数据集的放大。此外,正则化方法、“Dropout”,也用来将隐藏神经元的输出设置为0,概率为0.5,以学习更多的一般特征。当在前两个完全连接的层上添加随机“Dropout”机制时,用于收敛的训练迭代次数大约增加了一倍。然而,它仍然比需要多个预训练模型来提高预测精度的集成预测方法更有效。
- GoogLeNet
GoogLeNet是一种22层的CNN,是ILSVRCrsquo;14的冠军,它是一种为计算机视觉设计的高效深度神经网络模型。当其他基于CNN的模型受到尺寸增长带来的严重负面影响时,GoogLeNet能够显著增加网络的深度和宽度,以提高性能,同时将计算工作量的需求保持在合理的水平。其成功的关键原因是引入了一组通常堆积在较高层次上的初始模块。初始模块的结构如图1(c)所示,其中在昂贵的3times;3和5times;5卷积之前添加1times;1个卷积作为降维模块。这种方法大大减少了网络中参数的总数(GoogLeNet有7000个参数,而AlexNet有60000个参数)。设计这个初始模块的最初目的是通过使用现成的稠密组件(矩阵)来近似CNN的局部稀疏结构,这些组件可以有效地利用当前计算基础设施中的计算资源。此外,在GoogLeNet中,考虑到反向传播梯度,在中间层上增加额外的辅助分类器,期望在提供正则化的同时,减少渐变消失的影响。
- 调制数据转换为DL
本文研究了DL在通信系统中的应用,特别是调制分类的任务。假设通信系统在一个具有单信令的一致和同步场景中运行。还假设载波、定时和波形恢复已经完成。然后,我们得到了具有加性高斯白噪声的复杂样本的基带序列,如图2(a)所示。给定一批样本,我们的任务是确定接收信号的调制方式。考虑了八种可能的调制格式/类别,包括二进制相移键控(BPSK)、四幅频移键控(4ASK)、四幅频移键控(QPSK)、偏移QPSK (OQPSK)、八幅频移键控(8PSK)、16幅频移键控(16QAM)、32幅频移键控(32QAM)和64幅频移键控(64QAM)。
如前所述,现有的大多数CNN模型,包括AlexNet和GoogLeNet,都是为图像识别/分类而开发的。然而,在调制分类中,需要处理的数据不是图像,而是复杂的数据样本。为了利用现有的DL模型,我们可以将复杂的数据样本转换成图像。由于数据转换过程通常会导致信息的丢失,所以我们的研究和设计的目的是尽可能的保留原始信息。
- 星座图
将信号样本映射到复平面上的散射点,将其作为调制信号的二维表示,星座图得到了广泛的应用。需要注意的是,复平面无限延伸,而图像所能描绘的面积是有限的。我们需要选择复杂平面的一部分来生成星座图图像。如果选择的区域太小,一些信号样本可能会被排除在图像之外,并由于极大的噪声水平而被放弃。相反,如果面积太大,信号样本可能会聚集在一个小的区域,并且可能重叠。除另有说明外,本文选取7times;7复平面,假设典型信噪比为0~10dB。图2(b)是信噪比为2dB情况下,1000个采样的8PSK调制信号的星座图图像。
- 灰度图像
如果像素密度足够大,则星座图图像可视为信号样本的完整表示。在这种情况下,每个样本可以由一个或多个像素表示。但是,由于像素密度的限制,一个像素内可能有多个样本,如图2(c)所示。请注意,星座图是一个二值图像,其中具有一个或多个采样点的像素以类似的方式处理或表示。考虑多个采样点的影响,我们用每个像素的样本数量作为强度值(如像素为1、2和14的强度值分别为1、0和5)。二进制星座图可以转化为灰度图像,如图2中所示(d)。
-
<li
剩余内容已隐藏,支付完成后下载完整资料
资料编号:[235506],资料为PDF文档或Word文档,PDF文档可免费转换为Word
</li
以上是毕业论文外文翻译,课题毕业论文、任务书、文献综述、开题报告、程序设计、图纸设计等资料可联系客服协助查找。