摘要：你肯定在网上见过那种能一键换脸的搞笑视频，或者听过模仿明星说话的语音。

你肯定在网上见过那种能一键换脸的搞笑视频，或者听过模仿明星说话的语音。

挺好玩的，对吧？

但有些人拿这些AI技术干坏事，比如冒充你家人骗钱，或者造谣生事。

国家出手了！从今年4月开始，中央网信办搞了个“清朗·整治AI技术滥用”的大行动，专门收拾这些乱来的玩意儿。

国家主要盯上哪些AI滥用？

简单说，就是两件最害人的事：

第一，用AI换脸、模仿声音干坏事。比如，骗子用这技术假装是你亲戚朋友，骗你转账；或者未经同意，就把别人的脸、声音扒下来乱用，侵犯隐私。有些APP甚至提供“一键脱衣”这种下流功能。

第二，AI做的东西不标明身份，骗人。网上有些文章、图片、视频，其实是AI生成的，但没打上“AI制造”的标签，让人分不清真假，容易被忽悠。

几个月下来，效果真挺明显：

行动才搞了两个多月，全国网信部门就干了不少硬活：

3500多款有问题的AI小程序、手机APP还有所谓的“智能体”被处理了。

网上96万多条用AI搞出来的违法信息和不良内容被清理掉了。

3700多个专门搞这些歪门邪道的账号被封了。

国家还把那些卖违规AI工具、教人怎么使坏的广告路子给切断了。

同时，逼着像微信、抖音这些大平台赶紧升级技术，给AI生成的东西打上标记，让大家一眼能认出来。

像上海那边，很多大公司已经按要求给AI内容贴标签了。

这还没完，下一步更关键！

第一阶段打掉了不少害人工具，马上要进入第二阶段了。

用AI造谣（比如编政治谣言、假新闻）、

做假消息（把旧闻改头换面骗人）、

搞黄色低俗内容（做不雅图片视频）、

冒充别人（假冒名人专家骗钱）、

当网络水军（用AI批量注册账号、刷评论控评）、

卖违规AI应用（比如能自动写热点文章的“创作神器”）、

害小孩子（诱导沉迷或推送不良内容）。

国家要建更强的监控系统，更快发现这些坏内容；

把处罚规矩定得更清楚，让干坏事的人付出大代价；

确保所有AI生成的东西都老老实实打上标记；

想办法管得长久，不让这些乱象死灰复燃。

哪些害人的AI工具被重点打击了？

这次行动收拾了一大堆有问题的“高科技”玩意儿，比如：

“换脸大师”类APP：能轻易把你的脸换到别人视频上，或者把明星的脸扒下来乱用。

“声仿神器”类软件：能模仿特定人的声音，骗子最爱用这个冒充熟人打电话骗钱。

“造谣工厂”式AI程序：能量产假新闻、谣言文章，搅乱网络。

自动生成低俗内容的“智能体”：专门做黄色图片、擦边内容或者恐怖恶心的画面。

还有一些直播应用，用AI假装美女聊天，诱导人打赏；

或者所谓的“创作神器”，能一键把热搜扩写成文章，博眼球。

国家下大力气整治，就是不想让好技术被坏人利用。

管住这些乱用的AI，才能保护咱们老百姓不上当，网络空间干净点，也让真正有用的AI技术能好好发展，服务大家。

来源：短视频君