摘要：“AI造假”之风卷土重来！连日来，西藏日喀则市定日县6.8级地震牵动人心，不少网友在社交平台为灾民祈福。然而，一些别有用心之人却趁“灾”作乱，利用AI合成的照片在失控的扩散中酿成另一种“灾祸”。

“AI造假”之风卷土重来！连日来，西藏日喀则市定日县6.8级地震牵动人心，不少网友在社交平台为灾民祈福。然而，一些别有用心之人却趁“灾”作乱，利用AI合成的照片在失控的扩散中酿成另一种“灾祸”。

1月8日，词条“地震被压废墟下戴帽小孩是AI生成”冲上热搜，让前一天还在为小孩伤心落泪、转发照片的网民愕然：原来让自己心疼不已的小孩照片，竟是一场彻头彻尾的“照骗”！造假者抓住大众对灾难的同情心与关注度，编造吸睛标题和文案，使虚假影像得以病毒式传播，只为流量变现。

图片为自媒体AI合成视频的截图，与本次西藏地震无关

突发事件的信息传播中，影像对网民视觉与情绪的调动作用极为直接，正所谓“一图胜千言” 。如今，生成式人工智能的普及，使得内容制作的门槛与成本大幅降低。普通人只需动动手指，就能一键生成逼真的照片或视频，视觉内容的创作效率大大提升。然而，这一技术的滥用也导致了AI造谣、AI诈骗、AI魔改等乱象层出不穷。

在流量的驱动下，一些不法分子利用AI编造“伪消息”、制造“假新闻”，骗取网民关注点赞。在利益的驱使下，诈骗分子更是利用AI合成受骗者亲友的声音画面，实施精准诈骗。在地震救援工作仍在持续的当下，仍有与地震相关的AI合成照片在疯传，以所谓的“正能量”之名，行蹭流量、骗流量、变现流量之实。

AI合成内容愈发便捷的另一面，是AI造假正变得易如反掌：成本更低、速度更快、质量更高、识别更难，让人感慨“有图有真相”的时代已日渐远去。

当AI伪造的信息越积越多，善意的传递成本也会水涨船高，最终冲破真实世界信任的围栏。当技术被滥用，成为侵犯他人权益、误导公众视听的工具，扰乱救援大局、加剧心理创伤、动摇社会信任，技术与法律的规制必须站出来，坚决遏制AI合成虚假内容的这场闹剧。

应对“魔高一尺”，还需“道高一丈”。AI造假与AI打假的对抗，犹如一场你追我赶的“猫鼠游戏”。随着AI伪造技术不断发展，“对抗技术”也必须不断升级，追上生成技术的迭代速度。

以人的“善治”，促技术“善智”。法律依旧是打击AI造假的有力武器。对于编造、传播虚假灾情影像造成社会恐慌、阻碍救援等严重后果的行为，法律必须长出牙齿、形成威慑。平台作为信息传播的主阵地，也应当好“守门员”，严格准入和监看，对AI生成内容做好筛查、标记与提示。

对“AI伪造”说不，绝非小题大做。技术发展的初衷，是为人类造福，而不是任凭AI创造力的利刃，挥向人们的善意，侵蚀公共信任。在大模型时代，如果对AI伪造信息不加甄别地滥用，更将会污染作为模型“燃料”的信息海洋，最终反噬的只能是人类自己。只有把握好技术与伦理、发展与安全的关系，才能让技术向善、服务于民。

来源：齐鲁壹点