3.3主要研究方法3.3.1循环神经网络循环神经网络RNN[37]是一种特殊的深层神经网络结构虽然在直观上似乎仅有一层但从时间步的角度审视其深度可视为近乎无限。RNN的每一层都负责记忆序列数据并提取特征这使得它在数据挖掘方面展现出高效性能够精确捕捉序列数据中的关键特征。由于RNN对序列数据具有高度的适用性它在多个领域都拥有广泛的应用价值。以自然语言处理领域为例RNN能够深入捕捉文本的整体特征进而有效完成文本解析、翻译等复杂任务。循环神经网络以其特殊的结构接收序列信息[38]作为输入通过递归计算的方式实现了信息的循环传递。在循环神经网络中隐藏层节点间的连接构建了一种独特的循环机制。 具体而言当网络在t时刻接收通过这一机制循环神经网络能够更有效地处理具有时序特性的数据进 而提升其在各类任务中的性能表现。循环神经网络展开如图所示。在RNN结构中当前位置隐藏层的值并非独立存在它深受上一位置隐藏层值的影响并同时发挥着对下一位置隐藏层计算结果的调节作用。这种机制赋予了循环神经网络在处理输入序列时独特的优势。然而这一特性也为RNN在处理特定任务时带来了诸多挑战导致其效果不尽如人意。从时间步的视角来看循环神经网络的层数实际上 是由输入序列的长度所决定的。从时间步的视角来看循环神经网络的层数实际上是由输入序列的长度所决定的。换言之当输入的序列信息变得冗长复杂时RNN的时间步层数会迅速增加进而构成一个极其深层的网络结构。在这种情况下进行反向传播时会出现梯度消失或梯度爆炸的问题导致网络内部的参数无法获得及时的更新这一问题通常被称为长期依赖问题它极大地限制了循环神经网络在处理长序列数据时的性能。长短期记忆网络LSTM[40]是为了解决上述问题而设计的一种创新性的改进方案。在LSTM模型中学者们创造性地引入了输入门、输出门以及遗忘门等机制并将这些门机制巧妙地融入隐藏层之中。通过三个门结构可有效地过滤并遗忘无需要信息记忆有价值的信息从而控制特征信息在序列中的传递有效避免了传统循环神经网络可能出现的梯度消失和梯度爆炸问题[41]。相较于传统的RNN结构LSTM进行了显著的改进它利用长期状态??来有效保存和传递序列特征能够极大地提升了模型在处理长序列数据时的性能。这一改进不仅克服了RNN在处理长序列时面临的长期依赖问题还为序列数据的处 理和分析提供了新的思路和解决方法。LSTM单元结构图如图所示。3.3.2卷积神经网络卷积神经网络Convolutional Neural NetworkCNN最初源自计算机视觉领域的研究在图像处理领域得到了广泛应用并在农业、食品、医疗和机械等众多行业中得到了实际应用。随着自然语言处理技术的不断进步众多学者在深度神经网络的基础上融入了卷积结构对前馈神经网络进行了多方面的优化。首先CNN引入了局部感知视野的概念这与传统前馈神经网络中相邻两层神经元全连接的方式形成鲜明对比。局部感知视野意味着网络仅关注部分数据从而减少了内存空间的占用特别是在处理高维度数据时这种方法能够显著降低网络中的参数数量进而提升运算效率。其次CNN采用了权值参数共享的机制对于同一个卷积核而言其权重值是恒定的不会因输入信息的变动而发生改变。这种设计有助于网络更加高效地提取特征提高模型的泛化能力。最后通过引入池化层CNN能够深入挖掘数据中的关键特征进而实现数据规模的缩减有效降低过拟合现象的发生使模型在训练过程中更加稳定。这些优化措施共同提升了CNN在处理复杂数据时的性能使其在多个领域都取得了显著的成果。3.3.3图卷积神经网络近年来图神经网络Graph Neural NetworkGNN的兴起促进了自然语言处理领域的研究进步。随着研究的不断深入传统的基于欧氏数据的卷积神经网络和循环神经网络在诸如文本分类等任务中逐渐被非欧氏数据的图神经网络所取代。GNN通过循环神经结构有效传播节点间的信息并通过多次迭代达到稳定状态从而精准地获取目标节点的向量表示。在CNN、RNN等神经网络模型思想的启发下学者们进一步提出了图卷积神经网络使其在图数据结构处理上更具效率。图卷积神经网络作为深度学习中卷积神经网络思想的延伸特别针对图结构数据进行了优化与设计。该网络结构继承了卷积神经网络的局部连接和权值共享两大核心特性并通过卷积操作高效提取特征从而在深度学习任务中展现出强大的应用能力[44]。GCN的成功应用不仅丰富了自然语言处理领域的研究工具也为后续研究提供了新的思路和方法。这一发展不仅推动了自然语言处理技术的进步也为未来相关领域的研究开辟了新的道路。图卷积神经网络示意图如图所示5.1 数字人人设设置在该功能模块中用户可对数字人 “小粮” 的各项属性进行个性化设置。从基本信息来看可设定其姓名、性别、年龄、出生地、生肖、星座等如 “小粮” 为男性数字人助理出生地为中国生肖属蛇星座是水瓶座。职业设定为数字人助理方便用户明确其服务定位。还可配置联系方式便于进一步沟通。此外唤醒词设置为 “你好”唤醒方式支持前置词选择能灵活调整以满足不同使用场景需求。声音选择有 “云溪” 等选项可根据喜好决定数字人语音播报声音。同时关联 QA 文件如 qa.csv补充相关知识内容。服务器麦克风和扬声器开关可按需开启自动播放功能也能通过相应链接进行设置满足多样化的交互需求如图5-1所示。图5-1 数字人设置5.2 问答界面问答界面是用户与数字人 “小粮” 进行知识交互的核心区域。当用户输入储粮相关问题如 “你能帮我推荐一些储粮设备吗”“常见的储粮方式有哪些” 等数字人会迅速做出回应。它会根据关联的知识文件结合专业的储粮知识给出详细且准确的解答。例如针对储粮设备会依据粮食种类和数量给出选择建议对于常见储粮方式会介绍粮仓储存、面仓储存、窖穴囤储等不同方式及其适用场景实现高效的储粮知识问答服务为用户提供便捷的储粮知识获取途径如图5-2所示。图5-2 问答界面