合肥君正申请一种PC量化推理卷积avx加速的方法专利,提高整体模型的推理速度

B站影视 2025-01-24 17:32 2

摘要:国家知识产权局信息显示,合肥君正科技有限公司申请一项名为“一种PC量化推理卷积avx加速的方法”的专利,公开号CN 119337939 A,申请日期为2023年7月。

金融界2025年1月24日消息,国家知识产权局信息显示,合肥君正科技有限公司申请一项名为“一种PC量化推理卷积avx加速的方法”的专利,公开号CN 119337939 A,申请日期为2023年7月。

专利摘要显示,本发明提供一种PC量化推理卷积avx加速的方法,包括:S1,解析模型,获取网络名称卷积;S 2, Protobuf序列化,反序列化解析网络参数,保存卷积参数;S3,卷积输出形状推理,如果padding为same,使用输入形状大小除以步长strides获取输出形状;padding为value,使用输入形状加上pad值减卷积核大小再除以strides进行形状的推理计算卷积输出的形状特征;S4,卷积接口,传入卷积参数,malloc开辟空间,设置线程个数,pthread_t开辟线程空间,for循环为每个线程赋值同等的卷积计算数据;循环batch,输出宽高和输出通道,获取输入和权重的值;S5,利用For循环所有数据,使用avx的指令集进行计算加速;S6,结束卷积。在PC端进行模型推理计算,卷积实现结合avx的运算指令集,提高卷积计算速度,提高整体模型的推理速度。

天眼查资料显示,合肥君正科技有限公司,成立于2014年,位于合肥市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本25280万人民币,实缴资本1500万人民币。通过天眼查大数据分析,合肥君正科技有限公司共对外投资了2家企业,参与招投标项目5次,专利信息224条,此外企业还拥有行政许可3个。

来源:金融界

相关推荐