摘要：从灾难现场的虚假图片到名人仿冒事件，AI发展这把双刃剑，让“眼见为实”这一固有信念遭受前所未有的挑战。AI伪造如何产生？冲击有多大？我们该如何守护真实的边界？

潮新闻客户端 编辑 董洁

从新闻到见解，字里行间读懂社会万象。

有观点有思想，智慧碰撞把握时代脉搏。

让我们一起《读端》，一起“潮”。

本期嘉宾是十二届浙江省政协副主席周国辉。

社交媒体截图 来自网络

从灾难现场的虚假图片到名人仿冒事件，AI发展这把双刃剑，让“眼见为实”这一固有信念遭受前所未有的挑战。AI伪造如何产生？冲击有多大？我们该如何守护真实的边界？

潮声丨AI伪造泛滥，真实何去何从？

十二届浙江省政协副主席周国辉：

潮声《AI伪造泛滥，真实何去何从？》一文，披露了最近网络平台上出现的AI伪造泛滥的现象。

伴随着DeepSeek的横空出世，人工智能技术和大模型工具开始走进我们的生活，必将给生产生活带来巨大的便利。我们应当主动拥抱人工智能。近期网上出现了相关学习培训的服务，这对公众学习和正确运用AI新工具无疑是积极的、正面的。当然，也有不少离谱的宣传广告，甚至出现数字人伪造或传播虚假信息的现象。DeepSeek都发紧急声明，希望公众防范与DS有关的仿冒账号和不实信息。这个情况确实应当引起高度关注。

在这个问题上，党和政府是十分坚定、十分清醒的。习近平总书记对此有许多重要论述。他指出：“新一代人工智能正在全球范围内蓬勃兴起，为经济社会发展注入了新动能，正在深刻改变人们的生产生活方式。把握好这一发展机遇，处理好人工智能在法律、安全、就业、道德伦理和政府治理等方面提出的新课题，需要各国深化合作、共同探讨。”我们既要敏锐、勇敢地抓住人工智能带来的重大变革和机遇，推动经济和社会的进步和跃升，又要清醒地、审慎地应对同时而至的巨大挑战，因势利导，扬长避短。

近几年，通过学习和实践，我针对人工智能可能带来的正反两方面情况，多次在潮新闻“读端”栏目发文，呼吁政府、社会和公众协同识别和防范人工智能的副产品、负价值，特别要抵制AI造假歪风。

我记得至少写过三篇此类评论，包括2023年11月16日《医疗科普短视频充斥乱象 科技创新和科普工作需要进一步协同发展 》、2024年4月24日《多地现“量子赋能”种子骗术 提高公众科学素质是长期的战略性任务 》，今年1月25日《应对AI“说谎” 形成社会共治格局 让AI成为人类的挚友、良伴》。总的是要坚持科技向善、AI向善，让科技和AI造福社会，而决不能祸害人类。

我说过，AI是人发明的，AI的算力、算法是人赋予的，AI的内容也是人投喂的，如果出现“说谎”，不是AI，而是人，AI最多是“说谎”的媒介和帮凶而已。我们在享受AI红利的同时，应当保持警觉，做好风险防范。在这场没有硝烟的战争中，如何编织好一张守护数字时代安全的“铁丝网”。我看，必须坚持“技术+制度+人”三管齐下。

在技术层面，要给AI装“安全锁”。要保护“数据安全”，让AI学习时像在“安全屋”里看资料，看完不留痕迹，以免泄漏。如微信的图片分析功能，处理完照片数据就销毁。要进行防作弊测试，像考试时故意出偏题怪题，训练AI不被黑客带偏。听说ChatGPT升级时，工程师会假装坏人用各种套路试探它，以测试和增强其可靠性。要坚持透明化，让AI像汽车仪表盘，随时能看它决策的过程，随时都能纠偏。如银行用AI批贷款，准许还是拒绝都必须能解释理由。

在制度层面，要制定规矩防乱来。要实行分级管理，像驾照分ABC本，医疗AI要“A照”，天气预报AI用“C照”就行。实行产品认证。AI上线前要像食品检测，先过安全关，比如美颜APP要证明不会窃取用户照片。建立追责机制。AI犯错时能溯源追责，就像交通事故能查行车记录仪。

在人的层面，全民要学AI防身术。要加强科普宣传教育。就像普及防火知识一样，人人都要知道AI的风险，善于识别AI虚假、诈骗短信和视频。要提倡用户监督。让普通人都能当“AI质检员”。公共平台都要设置举报按钮，发现AI生成假视频能马上举报，以便即时查证处理。要强化企业责任。AI公司要像保护存款一样保护用户数据，堵住公众信息泄漏的漏洞。

总之，AI已经走进我们的生活，在享受红利的同时，必须保持警觉，防范于未然。要坚持政府、企业和公众协同，科技公司造好“安全锁”，政府制定“安防标准”的法律法规，每个人都要提高警惕，记得“锁门”。

“转载请注明出处”

来源：钱江晚报