摘要：前段时间，一条女子从28楼跳下的视频引起了湖南怀化警方的注意，视频的配文中带有“高空坠亡事件”等标签。然而警方在随后的调查中却发现了诸多疑点，最终经核实，该视频为嫌疑人禹某为博取流量，用AI“悲剧模板”生成的虚假视频。
潮新闻客户端 潮评赛选手 刘芸燕
前段时间，一条女子从28楼跳下的视频引起了湖南怀化警方的注意，视频的配文中带有“高空坠亡事件”等标签。然而警方在随后的调查中却发现了诸多疑点，最终经核实，该视频为嫌疑人禹某为博取流量，用AI“悲剧模板”生成的虚假视频。
无独有偶，10月17日安徽铜陵警方接到一男子报警，称妻子和孩子在家中遭遇陌生流浪汉闯入，身处险境。怎料警方到达“案发现场”后却不见闯入者身影。经了解，原来是妻子用AI合成流浪汉闯入家中的图片，来整蛊在外喝酒的丈夫，从而引发了这场令人啼笑皆非的闹剧。
这两件事情看似是恶作剧，但本质上已然显现出了AI技术被滥用的危险信号。AI是一把双刃剑，它既可用在医疗领域的疾病筛查、农业的精准种植等造福社会的领域，也能被用来生成深度伪造的音视频、新闻，进行诈骗、诽谤或舆论误导。如今，我们面临着“合成恐慌”。所谓“合成恐慌”，是指利用AI技术合成、制造具有冲击力的虚假危险场景，“投毒”于真实的公共空间与社会关系。其伤害行为是虚拟的，但引发的社会后果却是真实而严重的。
如果AI制造的“合成恐慌”持续蔓延，将带来三重深远的危害。首先，它伤害个体情感、侵蚀社会信任。如同“狼来了”的童话寓言，当公共的同情心被伪造的“跳楼悲剧”等反复欺骗，社会情感逐渐麻木。其次，它浪费宝贵的公共资源。如“流浪汉闯入”事件引发的报假警行为，不仅占用了宝贵的公共资源，更可能导致真正需要帮助的人无法及时获救。最终，它对公共秩序和司法资源构成了挑战。AI合成的证据提高了警方甄别难度，增加了执法成本。未来该技术如果被用于制造更精密的伪证，很可能构成诬陷、诽谤等，甚至干扰司法调查与审判。
从AI跳楼视频到AI流浪汉闯入，从AI换脸到AI古代名人擦边，显而易见，作恶的门槛和成本被AI技术极剧拉低。如何给野蛮生长的AI套上制度的缰绳？答案的关键在于法律、技术、伦理教育三者的协同发力。
法律层面需要完善从“事后追责”到“事前预防”的法律法规，明确AI生成内容的标识义务，对制造、传播恶意合成内容的事件，依据其造成的社会危害进行分层惩处。技术层面，用技术对抗技术，发展AI内容溯源与鉴定技术，如数字水印、AI检测工具等，让AI合成视频、图文做到“可溯源、可识别”。伦理与教育层面，加强AI伦理教育，确立数字时代的公序良俗，划清AI使用的道德底线与技术红线。
“合成恐慌”事件是对AI技术发展过程中的一次警报，让技术创新行进在法律与道德的轨道上，是时代赋予我们的必答题。唯有如此，我们才能将社会建设成充满信任与安全的绿洲。
1819 人正在交流来源：钱江晚报
