生成式人工智能安全大赛完美收官 | 院士专家共谈AI安全与治理

摘要：12月11日，首届生成式人工智能安全大赛完美收官，并在北京凤凰中心举办了隆重的颁奖仪式暨大模型安全技术研讨会。大赛由北京市互联网信息办公室和中国科学院网络安全和信息化领导小组办公室共同指导，中国科学院信息工程研究所和信息内容安全国家工程研究中心联合主办，聚焦安

12月11日，首届生成式人工智能安全大赛完美收官，并在北京凤凰中心举办了隆重的颁奖仪式暨大模型安全技术研讨会。大赛由北京市互联网信息办公室和中国科学院网络安全和信息化领导小组办公室共同指导，中国科学院信息工程研究所和信息内容安全国家工程研究中心联合主办，聚焦安全攻击、安全检测、安全防护三大赛道，聚集国内优势力量，有效发现、分析、应对大模型安全风险，不断提升人工智能基础底座的安全可控水平，更好地促进北京市及全国大模型产业的安全发展。

大赛自今年4月在中关村论坛启动以来，吸引了来自全国各地高等院校、科研院所、行业企业等200余支赛队参与。经过几个月的初赛、复赛、专家评审等层层筛选和激烈角逐，3个赛道最终确定了冠军、亚军、季军，以及优胜奖。

会上，中国科学院信工所所长郭莉、凤凰卫视副总裁刘庆生首先致欢迎辞。

刘庆生表示生成式人工智能技术在带来便利与效率提升的同时，如何确保生成内容的准确性、真实性与可信度，尤其是在全球化的背景下，如何确保人工智能在生成内容时既符合本地化的文化规范，又能尊重全球多样性的认知框架，成为新的安全挑战。作为一家国际媒体集团，凤凰卫视始终致力传播中华文化、促进国际交流。2023年11月，我们正式推出“凤凰智媒AI数据业务”，推动AI数据领域华语数据的丰富与共享，为中华文化的传承与传播提供AI时代的探索思路和解决方案。一年来，我们不断探索实践，发布多个多语言、多模态以及多元文化的高质量语料数据集；联合多家影视媒体机构共同探索媒体数据AI语料化工作；并与多所高校科研机构建立合作，共同开展多模态大模型评测、合成数据等领域研究。

大赛指导单位北京市委网信办副主任潘锋、中国科学院网信办副主任曾大军分别发言致辞，向大赛的成功举办和各获奖团队表示祝贺。

中国工程院方滨兴院士通过视频发言致辞，指出高度重视大模型安全已成全球共识，也是各国关注的科技制高点，希望广大科技工作者承担起使命和责任。

中国工程院吴世忠院士发表主旨演讲，分别从网数智全面转型创造安全新机遇、大模型广泛应用提出安全新挑战、人工智能大发展需要安全新作为三个方面，强调了生成式人工智能安全的重要性和紧迫性，以更好保障、支撑、促进人工智能技术的发展。

中国科学院信工所技术副总师韩冀中介绍了大赛组织和初复赛情况，与会嘉宾向获奖团队颁发了奖杯和证书。

来自清华大学的许斌研究员、北京大学的杨耀东研究员分别就国产自主可控基础大模型的研究与应用、大模型安全对齐主题做了技术报告。随后大会程序委员会主席、中国科学院信息工程研究所虎嵩林研究员主持了圆桌对话，来自学术届、产业届的专家围绕人工智能安全与治理的话题进行了深入讨论。最后，活动还举行了生成式人工智能安全技术联盟的发起仪式。