紫牛看法|AI工具是把双刃剑,技术不应为谣言推波助澜

B站影视 2025-01-11 15:01 2

摘要:青海某网民为博取眼球,将“小男孩被埋图”与日喀则地震相关的信息进行关联拼凑、移花接木,混淆视听、误导群众,致使谣言信息传播扩散。目前,涉案人员已被属地公安机关依法行政拘留。近年来AI创作越来越多的出现在各网络平台,但是以此制造灾害性事件的假新闻,造成恶劣印象,

1月10日,公安部网安局发布消息,青海某网民为博取眼球,将“小男孩被埋图”与日喀则地震相关的信息进行关联拼凑、移花接木,混淆视听、误导群众,致使谣言信息传播扩散。目前,涉案人员已被属地公安机关依法行政拘留。近年来AI创作越来越多的出现在各网络平台,但是以此制造灾害性事件的假新闻,造成恶劣印象,可能尚属首次。

西藏定日县发生6.8级地震后,牵动全国人民的心,一系列“小男孩被埋图”广泛传播,引发大量关注。笔者了解到,由于图片存在明显AI生成痕迹,公安机关迅速开展核查。原来,图片原作者发布时并未关联地震,而另一位网友为博取眼球,将图片移花接木,致使谣言信息传播扩散。

根据《中华人民共和国刑法》第二百九十一条之一第二款规定,编造虚假的险情、疫情、灾情、警情,在信息网络或者其他媒体上传播,或者明知是上述虚假信息,故意在信息网络或者其他媒体上传播,严重扰乱社会秩序的,处三年以下有期徒刑、拘役或者管制;造成严重后果的,处三年以上七年以下有期徒刑。

有人认为,目前的AI图片还不足以乱真,但笔者认为,谣言哪怕有一分真,就可能造成百分之九十九的麻烦。首先,在尚未明确调查结果的情况下,救援人员可能会根据图片进行排查核实。公安部门也一定会对图片来源进行调查,尤其涉及灾害、险情等情况,在证实为谣言之前,相关部门都会不懈工作以排除更多可能性,将浪费大量的公共资源。其次,从宏观角度来看网友群体的辨别意识不一,总有人会相信这些图片的真实性,从而引起强烈反响,被误导并欺骗感情。再次,大量此类图片传播,有损网络平台公信力,让人对消息难辨真伪,从而常带戒备之心。

未来AI工具肯定会越来越智能,总有一天可能产生肉眼无法辨别真伪的图片、视频,其初衷虽然是帮助我们进行内容生产,但是如果使用不当,也会带来更大负面效果。这一法律事件很好地为使用这一工具敲响警钟,刑法中的编造虚假恐怖信息罪既是行为犯,也是结果犯,有的人可能随意分享在私域的群或者朋友圈,被截图转发,造成严重后果的,一样要承担相应责任。

笔者认为,居心叵测之人难防,但AI生成工具应该负起相关责任,在一些涉及灾害、突发事件的内容素材上,平台审核更加严谨,AI生成的说明更加醒目,同时在使用工具的相关条款上也应警示图片使用的法律风险,从根源上起到把关作用。

评论员 刘浏

校对 盛媛媛

来源:紫牛新闻

相关推荐