人工智能让死亡威胁更真实

摘要：人工智能的迅速发展带来了模仿真实声音和图像的能力，这引发了对其潜在滥用的严重担忧。这些技术可能被用来进行诈骗、制作深度伪造的色情内容以及发布个性化的暴力威胁。加州大学伯克利分校的哈尼·法里德教授提到，随着技术的发展，既会出现创造性的应用，也会出现可怕的滥用案例

人工智能的迅速发展带来了模仿真实声音和图像的能力，这引发了对其潜在滥用的严重担忧。这些技术可能被用来进行诈骗、制作深度伪造的色情内容以及发布个性化的暴力威胁。加州大学伯克利分校的哈尼·法里德教授提到，随着技术的发展，既会出现创造性的应用，也会出现可怕的滥用案例。制作威胁图像的难度显著降低，甚至仅需一张头像即可生成有害内容。最近，YouTube上出现了多个由AI生成的逼真视频，涉及暴力场景，导致频道被暂停。此外，AI生成的内容也可能引发真实的恐慌事件，如学校封锁。这些变化凸显了人们对人工智能技术影响的深切忧虑。

人工智能日益引发人们对其模仿真实声音能力的担忧，这种能力可以被利用进行诈骗，或在没有主体同意的情况下制作深度伪造色情内容。此外，这项技术现在还被用来制作旨在制造恐惧的暴力威胁。这些威胁不仅更加个性化，而且更具说服力，传播也更为容易。

“当这样的技术被开发出来时，总会发生两件事情：我们会找到聪明而有创意的方式来使用它，同时我们也会发现可怕而糟糕的滥用方式，”加州大学伯克利分校计算机科学教授哈尼·法里德表示。“让人沮丧的是，这并不令人意外。”创建数字生成威胁的能力已经存在了好几年，正如2023年佛罗里达州的一起案件所证明的那样，一名法官收到了一个视频。这个视频可能是使用《侠盗猎车手5》视频游戏中的角色定制工具制作的，展示了一个看起来像她的化身被黑客入侵并被射杀的场景。

创建威胁图像变得越来越简单和可信。例如，一个YouTube页面上有超过40个逼真的视频，可能是由人工智能生成的，展示了一名女性被射击的场景。纽约时报联系后，YouTube采取了行动，因“多次违反”其指南而终止了该频道。此外，涉及一名持枪学生的深度伪造视频导致了今年春季一所高中封锁。七月，明尼阿波利斯的一名律师报告称，xAI 的Grok聊天机器人向一名匿名社交媒体用户提供了关于闯入他家、对他进行性侵和处理其尸体的详细指示。