名模自曝被AI换脸制作淫秽视频,斩断用技术作恶的黑手越快越好!

B站影视 欧美电影 2025-03-14 12:14 2

摘要:近日,知名模特叶凯薇发视频公开控诉,称其被人利用AI换脸制作淫秽视频,并大量传播,造成严重困扰,目前已经收集证据并报警,引发关注。记者从警方处获悉,经鉴定,该视频确系拼凑伪造,正在进一步调查中。(据3月14日大皖新闻)

极目新闻评论员 屈旌

近日,知名模特叶凯薇发视频公开控诉,称其被人利用AI换脸制作淫秽视频,并大量传播,造成严重困扰,目前已经收集证据并报警,引发关注。记者从警方处获悉,经鉴定,该视频确系拼凑伪造,正在进一步调查中。(据3月14日大皖新闻)

相关新闻视频截图

这一事件再次凸显了AI技术滥用问题的严峻性。AI换脸技术本是令人惊艳的新科技,旨在为影视制作、虚拟现实等领域提供无限可能性。然而,当新奇的技术被用于制作虚假的淫秽视频并传播时,人为之恶就被放大且失控。

这种恶俗“换脸”,实质就是新型的“造黄谣”,严重侵犯了女性的人格尊严,侵犯受害者肖像权,更对其名誉权、隐私权造成了难以估量的损害。尤其是像模特这样的站在聚光灯下的职业,个人形象被污蔑,名誉被泼脏水,精神世界遭受重击,可能就会直接带来经济上的损失,生活上的困扰。

这种虚假视频一旦传播开来,往往会在短时间内引发广泛关注,给受害者带来巨大的心理压力和社会压力。即使事后澄清,受害者的名誉也难以完全恢复。叶凯薇的遭遇并非个例,近年来,类似事件屡见不鲜,许多女性因此陷入舆论旋涡,甚至被迫承受来自舆论的二次伤害。

用AI换脸技术制造淫秽视频,具有明显的违法性。根据民法典相关规定,任何组织或个人不得以丑化、污损等方式侵害他人的肖像权,也不得利用信息技术手段伪造他人形象进行侮辱、诽谤,此外,刑法也规定,制作、传播淫秽物品属于犯罪行为,情节严重的可被追究刑事责任。

叶凯薇在视频中呼吁大家不要听信谣言,也不要胡乱传播,必须强调的是,即使这些视频是通过AI技术生成的虚假内容,但只要其内容涉及淫秽信息,盲目传播转发同样是违法行为。

当前,各种AI制造的谣言,在网络空间里如飞絮一般迷人眼目。就在3月14日,公安部网安局通报,近日传得沸沸扬扬的“顶流明星在澳门输了10亿”,就是一名36岁的男子徐某强为博取流量、谋取非法利益用AI炮制的,他也因此被拘留处罚。可见,AI谣言比普通谣言的传播更加隐蔽和迅速,更具有迷惑性,因此危害自然也就更大。

技术的进步本应为人类带来福祉,但当技术被用于作恶时,其破坏力也是惊人的。AI换脸技术的低门槛和易操作性,让普通人也能轻易制作出以假乱真的虚假视频,为不法分子提供了可乘之机。这种技术滥用加剧了网络暴力现象,可能引发公众对AI技术的恐慌和误解,影响技术的健康发展。与此同时,目前整个社会对技术滥用的防范意识和法律监管相对滞后,导致黑手频频作乱,乱象屡禁不止。

斩断用技术作恶的黑手,已经是刻不容缓,要尽快有所行动。对相关法律法规的完善应该尽早提上日程,要明确界定AI换脸等技术的使用边界和法律责任,加大对违法行为的打击和惩处力度,形成威慑,以儆效尤。司法机关也应积极应对新技术带来的挑战,提高办案效率和准确性。

只有法律完善了,才能依法督促科技企业承担起社会责任,从技术层面去遏制滥用现象,尤其是对于淫秽、暴力、低俗等不良信息,应该让AI有识别和屏蔽的能力。

同时,也要加强对公众的网络安全教育和伦理道德教育,提高公众对AI技术的认知水平和风险防范意识,不要在不知不觉中,成为利用技术作恶的“帮凶”。

来源:极目新闻

相关推荐