摘要:国家知识产权局信息显示,江苏鸿程大数据技术与应用研究院有限公司申请一项名为“一种基于预训练语言模型融合深度卷积网络的文本分类方法”的专利,公开号CN120011558A,申请日期为2025年01月。
金融界2025年5月20日消息,国家知识产权局信息显示,江苏鸿程大数据技术与应用研究院有限公司申请一项名为“一种基于预训练语言模型融合深度卷积网络的文本分类方法”的专利,公开号CN120011558A,申请日期为2025年01月。
专利摘要显示,本发明公开了一种基于预训练语言模型融合深度卷积网络的文本分类方法,包括以下步骤:首先,通过RoBERTa模型对输入文本进行特征提取;然后,将RoBERTa输出的特征输入多头注意力网络,获取深度语义信息;接着,将多头注意力的输出输入到多层残差结构的卷积神经网络中,获取深层卷积网络特征;最后,将多头注意力的输出引入可学习维度变换矩阵,通过优化维度特征,生成适合分类任务的低维表示,并与多层卷积神经网络的输出在全局最大池化操作后进行融合,统一全局和局部特征的语义表示。融合后的特征通过全连接层生成最终的分类结果。
天眼查资料显示,江苏鸿程大数据技术与应用研究院有限公司,成立于2019年,位于南京市,是一家以从事研究和试验发展为主的企业。企业注册资本1000万人民币。通过天眼查大数据分析,江苏鸿程大数据技术与应用研究院有限公司共对外投资了15家企业,参与招投标项目41次,财产线索方面有商标信息7条,专利信息31条,此外企业还拥有行政许可5个。
来源:金融界