一边拥抱AI一边打击AI，到底在想啥

摘要：作为这几年科技圈最有亮点的技术突破，AI大模型几乎是每一家科技企业的必修课。然而AI既是“天使”、也是“魔鬼”，它在提升效率的同时，也成为了互联网上最大的虚假内容制造机。日前抖音方面发布关于“AI起号”专项治理行动的公告，对利用AI进行账号批量生产、传播虚假信

作为这几年科技圈最有亮点的技术突破，AI大模型几乎是每一家科技企业的必修课。然而AI既是“天使”、也是“魔鬼”，它在提升效率的同时，也成为了互联网上最大的虚假内容制造机。日前抖音方面发布关于“AI起号”专项治理行动的公告，对利用AI进行账号批量生产、传播虚假信息的黑灰产链条展开重点打击。

由此抖音也成为了继小红书之后，又一家针对AI技术滥用进行治理的互联网内容平台。事实上，抖音于小红书这次都聚焦在“利用AI生成低俗猎奇视频”、“AI生成虚拟外国幼儿教育专家教授育儿内容”、“AI视频账号售卖教程”、“AI账号秘籍传授”、“引导规避平台AI标注”、“转让、销售AI虚拟账号”等违规内容。

然而就在同一时间，抖音和小红书大也都张旗鼓地推广AI技术，希望AI能渗透到自家的产品中。比如5月16日，在经过了数月的测试后，抖音App正式接入豆包，目前在抖音消息列表，豆包已作为好友显示，用户可与之进行对话，同时也支持直接跳转至豆包App。

小红书也在近期与“AI六小龙”之一的月之暗面达成合作，后者的Kimi智能助手在小红书发起“21天打卡挑战”，鼓励用户结合平台热门内容创作趋势，深度体验Kimi长文本处理等核心功能。

一边打击AI起号，一边又希望用户使用AI创作内容，看起来抖音和小红书似乎有点“精神分裂”。

当然，这并不是抖音、小红书在“左右互搏”，而是内容平台在AI时代不得不走钢丝带来的结果。因为内容平台既希望通过AI技术丰富内容池的深度和广度，又不想看到AI产出的低质内容污染内容生态。所以既要又要的心态，就是抖音、小红书一边推广AI，一边打击AI的根源。

当下内容平台积极拥抱AI的原因很简单，是因为内容供给跟不上了。在经过多年的发展后，现阶段内容平台已经有了从UGC到PUGC、乃至PGC过渡的趋势，创作门槛逐渐走高也是不争的事实。面对抖音、小红书坐拥的庞大流量池，有志于在此掘金的专业团队只会越来越多，所以草根崛起的故事也就愈发稀少。

以抖音为例，相比于早前，如今普通用户已经越来越不爱发短视频了。但他们的理由也很直观，因为同样是分享日常生活，有专业脚本、剪辑、摄像团队拍出的内容就是会更受欢迎，所以就使得普通用户从内容创作中得到的正反馈不断持续下降。

有了AI技术的帮助，普通用户与专业创作团队之间的创作能力差异就会缩小。对于缺乏写作技巧、剪辑能力、拍摄手法的普通用户而言，借助多模态大模型提供的文生图、文生视频能力，他们也能将创意包装得极为精美。

现实也确实如此，自从抖音接入豆包之后，平台上就出现了一批由AI制作的创意短片。然而也能发现，并不是所有的AI内容都质量上乘，由AI粗制滥造的低质视频、乃至虚假内容同样频繁出现。这一现象的原因其实很简单，毕竟当下的AI还不是AGI，在还不能自主设定目标的时候，它更像是一个有效率的工具、而非一个智能助手。