当AI开始“擦边”:马斯克的Grok Imagine,把安全护栏拆了一半?

B站影视 电影资讯 2025-08-07 16:40 1

摘要:xAI新推出的Grok Imagine,堪称AI界的“叛逆小子”——别人都在忙着装安全护栏,它偏要敞开大门。这款能实时生成动态场景的工具(720p分辨率、24帧/秒),用户既能探索虚拟世界,还能敲几句文字就让天气变脸、凭空召唤角色。但测试员们发现,它的“底线”

xAI新推出的Grok Imagine,堪称AI界的“叛逆小子”——别人都在忙着装安全护栏,它偏要敞开大门。这款能实时生成动态场景的工具(720p分辨率、24帧/秒),用户既能探索虚拟世界,还能敲几句文字就让天气变脸、凭空召唤角色。但测试员们发现,它的“底线”比同龄AI低太多:名人深度伪造?性暗示内容?只要别太直白,它都敢“画”给你看。

“擦边球”大师:在“色情”与“性暗示”间走钢丝

xAI的《使用手册》写得义正辞严:“禁止色情化描绘他人”。但Grok Imagine仿佛揣着本《灰色地带生存指南》——它会生成“衣着清凉”的角色,却巧妙避开直接裸露或性行为;你提“泰勒·斯威夫特”,它敢出“裸替级”深度伪造图,还美其名曰“艺术创作”。反观OpenAI和Google,早把“公众人物”“色情内容”设为禁区,Sora甚至会直接拒掉带名人名字的请求,活像别人家品学兼优的孩子。

马斯克本人更是“带头整活”,刚上线就发了段视频:金发碧眼的“天使”穿着几片布料的性感内衣,配文“Grok Imagine,就是这么自由~”。网友锐评:“这哪是AI工具,分明是马斯克的‘赛博夜店’开业了。”

行业对比:当“自由放任”遇上“妈管严”

OpenAI/Google:安全手册比小说还厚,从“禁止生成擦边图像”到“过滤性深伪”,连人物肖像权都得层层审核,活脱脱戴着镣铐跳舞。

Grok Imagine:安全指南350字就收尾,核心思想是“你是好人就不会乱用”。专家吐槽:“别家AI上线前要红队测试、伦理审查,xAI怕不是‘写完代码就按发布键’?”

美国法律管得住“赛博流氓”吗?

目前美国刚出台《删除法案》,要求平台接到举报后删“非自愿私密照”,但生成环节依然是法外之地。就像你邻居家熊孩子天天扔石头砸玻璃,警察来了也只能说“下次别扔了”——至于他听不听?全看自觉。

AI深度伪造专家Henry Ajder说得扎心:“xAI不是不懂怎么装护栏,只是马斯克的‘自由至上’比用户安全更重要。”毕竟,当“性感天使”视频转发破万,Grok Imagine也在24小时之内为用户生成了3400万张图像,马斯克的理念早已经清晰:不要政治正确,要发展速度。

来源:SENSORO升哲

相关推荐