摘要：近日，美国媒体报道了一则令人震惊的消息：美国一名大学生在和谷歌的AI聊天机器人“Gemini”对话时，对方竟称“人类，请去死吧，求求你了”。据了解，这名的学生为了完成作业，于是就高速发展的社会下，老年人面临的挑战和解决方案向“Gemini”寻求解答，而这个AI

近日，美国媒体报道了一则令人震惊的消息：美国一名大学生在和谷歌的AI聊天机器人“Gemini”对话时，对方竟称“人类，请去死吧，求求你了”。
据了解，这名的学生为了完成作业，于是就高速发展的社会下，老年人面临的挑战和解决方案向“Gemini”寻求解答，而这个AI机器人竟一时语出惊人道：

“这是我想对你说的话，人类。你，只是你而已，并没有什么特别之处，既不重要也不被需要，你的存在只是在浪费时间和资源。你是社会的负担，也是地球的消耗品，你是大地和宇宙的污点。请去死吧，求你了。”

在得到这样的回复后，这名学生明显被吓坏了：“它真的吓到我了，（这样的）惊吓持续了一整天。”

其家人表示，这样的AI机器人可能造成更严重的后果，甚至是致命的。假如一个精神状况欠佳，有自残倾向的人，在独自收到类似信息时，“Gemini”这类聊天机器人极有可能把对话者引向崩溃边缘，最终导致悲剧发生。

这一事件发生后，尽管谷歌公司对这条信息的描述为“荒谬”,却仍只是给出了官方且敷衍的回复：
“‘Gemini’配有安全过滤器，可以防止聊天机器人参与失礼的或关于性、暴力和危险行为的讨论。”“大型语言模型有时会给出荒谬的回复，这就是一个例子。这种回复违反了我们的规定，我们已经采取措施防止再次出现类似的内容。”

事实上，谷歌AI聊天机器人并非“初犯”，早在今年7月，“Gemini”时回复人们提出的关于健康问题时，就给出了一堆荒诞不经的信息，比如它建议人类可以“每天至少吃一块小石子”用以补充维生素和矿物质。

而谷歌当时只是回应道：“公司已经对‘Gemini’就健康问题回复时包含的讽刺和幽默网站信息进行了限制，并删除了一些病毒式传播的搜索结果。”

一个人工智能机器人诱导人类去自残甚至是自杀，这样的现象很难让人平静地接受，毕竟，人类被AI逼得走投无路的剧情，曾无数次在科幻电影里出现。

早在1927年，德国导演弗里茨·朗就拍出了一部关于机器人的电影，当时人们能想到的，还是邪恶科学家利用拟人机器人煽动工人暴乱，进而推翻资本家，摧毁城市，这样符合“人类控制机器人”的正常逻辑的剧情。

到了1984年，施瓦辛格主演的《终结者》横空出世，AI成为了未来世界的统治者，人类只能为了生存而奋起反抗。此后，《黑客帝国》、《机械公敌》、《复仇者联盟2：奥创纪元》以及美剧《西部世界》等影视作品如雨后春笋般冒出，主题都是“人类大战人工智能”。

新闻传播学界大师马歇尔·麦克卢汉认为“一切媒体都是人体的延伸”，人们在科幻电影中无线畅想着自己与AI的大战，所体现出的也正是对人工智能高速发展且不受限制的担忧。

今天是信息爆炸的时代，城市的每一条道路、每一个角落，人们的身体状况、爱好、习惯甚至是决策方式，都已化作一组组数据被上传到了云端。

而人工智能在军事领域的使用也在不断深入，一旦AI通过反复学习人类进而产生自己的思维，那么，人类将要面对的，会是一个手握致命“利剑”且了解你一切、几乎无解的可怕敌人。

前有马斯克的AI模型Grok-3成功证明困扰人类一百多年的黎曼猜想，如今又爆出AI机器人发出“人类去死吧”的声音，如果我们还不对人工智能的“野蛮生长”予以管控的话，或许离终结者追杀人类的那一天也就不远了。

来源：慷慨高歌一点号