摘要：其中，整治“自媒体”无底线博流量方面，将集中整治“自媒体”造热点蹭热点制造“信息陷阱”、无底线吸粉引流牟利等问题。督促网站平台做好涉国内外时事、公共政策、社会事件等领域信息来源标注，AI生成信息标注以及虚构摆拍内容标注。

网络空间天朗气清、生态良好，符合人民利益。

近日，中央网信办部署2024年“清朗”行动。行动既坚持问题导向，又回应社会关切，彰显出维护网络空间“清风劲吹、正气充盈”的态度和决心。

清朗网络，人人向往。即日起，重庆瞭望推出系列评论，从AI乱象治理等多角度切入，探讨当下网络治理的新问题、新挑战、新成效。敬请关注。

日前，中央网信办部署开展2024年“清朗”系列专项行动，重点开展10项整治任务。

其中，整治“自媒体”无底线博流量方面，将集中整治“自媒体”造热点蹭热点制造“信息陷阱”、无底线吸粉引流牟利等问题。督促网站平台做好涉国内外时事、公共政策、社会事件等领域信息来源标注，AI生成信息标注以及虚构摆拍内容标注。

此次“清朗”行动特别强调做好AI（人工智能）生成信息标注，体现了对网络空间治理的深入思考和精准施策。同时，也折射出AI生成信息的普及和广泛应用，给网络空间治理带来新的挑战。

从ChatGPT到Sora，AI的迭代升级，无疑为人类社会带来巨大的便利与革新。正如任何先进技术都可能被误用，AI的副作用也正在浮出水面。网友感叹：有时候，人工智能还是人为陷阱，真有点傻傻分不清。

▲AI诈骗需警惕。王鹏 作/新华社

当前，一些网络违法行为披上“AI外衣”，利用其高度智能化的特性，巧妙编织违法套路，从欺诈到网络攻击，无所不用其极。

AI深度伪造，“眼见未必为实”。生成式AI技术的发展，使得通过换脸换声的方式模拟出另一个人的外观和声音已不再困难。这一技术被称作“深度伪造”。

近年来，不少犯罪分子利用AI深度伪造技术进行电信诈骗。他们将目标人物的人脸、表情、声音等嫁接到模仿的照片、音视频中，或假冒亲人朋友、同事领导，借用他人身份进行诈骗，或冒充知名人士、明星网红，误导公众，诱导受害者上当。据警方透露，依靠深度伪造技术工具，AI客服可以同时给上万人打电话。

近期，香港警方披露了一起多人“AI换脸”诈骗案，一家跨国公司香港分部的职员受邀参加总部发起的“多人视频会议”，结果被骗2亿港元。后经调查，所谓的视频会议，只有受害人一个人是真人，其他“参会人员”都是经过“AI换脸”后的诈骗人员。

生编硬造虚假信息，“AI谣言”真伪难辨。如今，通过AI技术，只需输入几个关键词，即可快速生成想要的内容。一些自媒体或网民，为了博眼球蹭热度赚流量，不惜编造生成虚假信息，让“AI谣言”在网络上传播。这些内容涉及政治、经济、社会、文化等各个领域，极易误导公众舆论，还可能对社会造成负面影响。

今年1月，广西东兴市一网民为博取流量吸引粉丝，将其他地区的抗洪、救灾视频，利用AI软件自动编辑功能，嫁接新疆乌什县发生地震的虚假视频信息。视频被大量播放，并引发许多不明真相的网民评论和转发。

除上述情形之外，还有利用AI技术侵犯他人隐私、进行黑客攻击的“高阶套路”。

有人利用AI技术分析用户的上网行为和兴趣偏好，定制个性化的网络钓鱼邮件或短信；部分犯罪分子还利用AI技术对智能家居、智能汽车等智能设备进行入侵和控制，窃取用户的隐私信息或实施其他非法操作。这类行为不仅侵犯了用户的隐私权，破坏了网络生态，还可能对公共安全构成威胁。

▲诈骗新手法。徐骏 作/新华社

“AI陷阱”频频出现，揭示了人工智能技术快速发展的双刃剑特性。其背后的动因，涉及利益、法律、监管以及公众认知等多个方面。

低成本、高收益、易操作。AI技术的便捷性高效性，给不法分子带来了快速获取利益的可能性，进而促使他们铤而走险。

在某些购物平台上，花较低的价钱就能获得一个明星实时换脸模板。就目前来看，AI内容制作具有“低成本、高收益，操作简单、极易变现”等特点。有时候，用户只需掌握一些基本的操作技巧，就可以迅速生成内容，并在短时间内向大量目标发送，继而获取流量和收益。

更有甚者，犯罪分子仅需通过微信视频对话，就可以轻松得手。2023年4月，福建某公司法定代表人郭先生接到“好友”的微信视频通话，对方称自己需要430万元保证金用于项目竞标。因为有先前的视频通话，加之对“好友”的信任，郭先生陆续给对方转账共计430万元。随后郭先生再次联系好友时才发现自己被骗。

法律与监管仍有漏洞。目前，我们还处于建立人工智能法律法规体系的初步阶段，针对AI技术规范应用的法律法规尚不完善，监管也需要进一步加强。这让不法分子在利用AI技术进行造谣、诈骗时，往往有漏洞可钻。

同时，由于AI技术的复杂性和隐蔽性，加之存在技术门槛，监管部门在查处有关违法违规行为时，也面临较大困难。

公众对AI的认知不足。许多人对AI技术的原理和应用了解不够深入，对其可能带来的风险缺乏足够的认知，更没有足够有效的应对手段。同时，由于AI技术的高度仿真性，使得虚假信息看起来非常“真实”，公众往往难辨真伪。

▲当心陷阱。王鹏 作/新华社

“AI陷阱”，何以破解？

在今年全国两会上，不少代表委员关注到人工智能的安全与合规问题，并从技术、法律等角度就促进人工智能健康发展给出了建议，发出了呼吁。

而要确保AI技术在为人类带来福祉和进步的同时，不会沦为犯罪活动的工具，绝非一时之功，也不能一蹴而就，需要久久为功、对症下药。

拉紧法律和监管“缰绳”。重庆百君律师事务所合伙人曹廷婷律师指出，在推动人工智能发展和应用方面，我国已有多部法律法规对其进行规范。比如，2023年，最高人民法院、最高人民检察院、公安部联合发布的《关于依法惩治网络暴力违法犯罪的指导意见》明确规定，对“利用‘深度合成’等生成式人工智能技术发布违法信息”的情形予以从重处罚。网络安全法、数据安全法、消费者权益保护法、反不正当竞争法、刑法等法律法规对相关内容也有规定。

下一步，还需持续完善相关法律法规，明确AI技术的合法使用范围和禁止事项，为打击利用AI进行的犯罪活动提供更充分的法律依据。加大执法力度，敢于“亮剑”，形成震慑效应。监管部门和相关平台则要加强监管，在提升自我科技能力储备的同时，有必要引入新兴技术，探索用AI技术监管AI。

提升技术应用和风险应对“能级”。推动AI健康发展，还要深入研究和探索其技术本质和应用边界。

AI技术的发展日新月异，仍需不断更新和完善对其的认知和理解，包括深入研究其算法的公正性、透明度和可解释性，确保AI决策的科学性和合理性；在此基础上，关注AI技术在不同领域的应用场景和潜在风险，制定相应的规范和标准，以确保其合法、安全和可控。

加重行业自律和公众意识“砝码”。要持续鼓励引导AI行业加强自律，制定完善行业标准和规范，推动行业健康发展。同时，提高公众对AI技术的认识和理解，增强其风险意识和防范能力。

曹廷婷建议，应提升全民个人信息保护意识，谨防隐私泄露。特别是要保护好自己的人脸、指纹、声音等个人生物信息，以及个人微信、QQ、微博、抖音等社交账号的密码、验证码，谨防各种信息泄露。

同时，做好个人的手机、电脑等终端设备的软硬件的安全管理。在涉及转账交易等行为时，可以多角度询问身份信息，反复验证对方是否为本人。

展望未来，随着技术的不断进步和应用的深入拓展，AI将在营造清朗网络环境中发挥更加重要的作用。

我们需积极拥抱AI，推动其与网络治理的深度融合，让AI成为我们手中的利剑，斩断网络乱象的根源，守护网络空间的清明与和谐，为亿万网民创造一个安全、健康、清朗的网络环境。

来源：重庆瞭望一点号