摘要：AI就是以这般突然的姿态闯入的，即便你毫不关心AI的发展与演化，但很可能在尚未意识到它的到来时就已身处其中，不得不抬起头做出选择。

一天清晨，你从不安的睡梦中醒来，发现自己躺在床上变成了一位AI仿真人。

AI就是以这般突然的姿态闯入的，即便你毫不关心AI的发展与演化，但很可能在尚未意识到它的到来时就已身处其中，不得不抬起头做出选择。

但首先要做出是非判断，触手可得的工具进步是砒霜还是蜜糖？

来看几个例子，最近泰国女总理佩通坦自曝亲身经历了一场AI诈骗，直至转账最后一步才猛然惊醒；一位韩国女性大学生发现自己的脸被合成到了一张色情海报上，施暴者还向其威胁索要钱财；不少年轻人靠着各式各样的AI赚了第一桶金，享受着当“数字游民”的自由与洒脱。

其次是价值判断，AI被视为从信息时代进入智能化新阶段的重要标志之一。

最后还得补充一个老生常谈的道德判断问题，关乎人们对生命、死亡以及技术伦理的深刻思考。

目前来看，咱们总体还是抱着一个乐观的心态看待AI，等待着真正令人满意、服务于人类的存在出现。

只是AI带来的问题，一个也没躲过去，硬抗成了时下唯一的选择。

除了“对”与“错”这两个字以外，世界上再也没有本身就叫做“对”或者是“错”的东西。

这句略显诡辩色彩的语录，用来解释工具的对错属性倒也能自洽。

只是具体到个人身上，好与坏的后果会赤裸裸的尽数显露。

1月15日上午，AI麻烦找到了泰国女总理佩通坦头上，电话那头是某国领导人，让泰国为某个重要项目捐款，还甩过来一个短信链接，方便直接转账。

图源：微博@大皖新闻

这个经典套路咱们再熟悉不过，只不过当局者容易迷糊。

在佩通坦即将做出转账行为时，她发现收款的账户与对方的国家不一致，于是让副总理确认了一下，才发现是诈骗，差点闹出个国际笑话。

事后其回忆称，对方声音与某领导人一模一样，同时伴随着极其真实的环境音，迷惑性十足。

此情此景不禁让人冷汗直冒，就连安保措施拉满、久经沙场的泰国女总理都没躲过AI诈骗，普通人得转多少脑筋才能识破迷魂阵。

据《2024人工智能安全报告》显示，2023年国内基于AI的深度伪造欺诈增长了3000%，仅2024上半年，AI诈骗案案值已超过1.85亿元。

前段时间“AI雷军”横行同样是个经典例子，在AI开启深度伪造2.0时代，全世界政要官员、商企精英以及明星歌手等，都有可能被不良商贩选中。

除此之外，还有一种更加低端且侮辱性极强的手段值得关注，那就是把普通人用技术手段塞进色情视频里。

图源：豆包AI

听起来有些不可思议，但你在社交媒体上发布的个人照片，很可能会被不法分子盯上，通过deepfake（深度伪造）的AI技术，仅需几秒就能制造完成，随后这些视频会在不良网站上肆意流传，还有肇事者则是出于抱负、羞辱身边人的心理。

2024年，韩国性暴力咨询所等 84 个女性团体发表声明，敦促政府解决 Deepfake 色情犯罪，因为这些深度伪造技术的性犯罪事件，影响到韩国 500 多所学校，受害者包括大学生、中小学学生、军人等，甚至连未成年学生也成为受害者，更离谱的是涉案的犯罪嫌疑人有很多是青少年。

而在受害者群体里，有人描述这段经历，称创伤是没有尽头的，就好像那些视频里的侵犯真的发生过，甚至看待整个世界都显得极为不真实。

如今看来，在这种工具成为最好赚钱的生意之一时，这把双刃剑会更容易发挥它的锋利性。

而之所以被称为“迷人的危险”，是因为AI向善的一面同样震撼力十足。

其中普通人最关心的，莫过于两个字：搞钱！

在2024年, AI创业者呈现井喷态势，不少小白摸着石头过河赚到了人生第一桶金。

各位最熟知的，莫过于在B站等短视频平台出现的甄嬛在遭四郎扇脸后端起机枪疯狂扫射、林黛玉倒拔垂杨柳等，这些小作坊靠着简单的AI软件，轻松将流量费收入囊中。

而更高阶的AI玩家，则把目光放得更为长远，利用AI搞起了新的创业叙事。

OPEN AI的创始人萨姆·奥尔特曼喊出过一句充满诱惑的口号：“一个人就能做出市值10亿美金公司的时代马上就要到来。”其实就是对AI投射的希望。

图源：豆包AI

一些成功者的案例已经破土而出，如9岁小学生利用大模型写书，赚了2万、创业小白用快手可灵制造宣传视频，年入30万等，虽然远未到达令人仰望的高度，但鉴于其“普通人”身份标签，这样的财富神话足够被歌颂。

随着字节、腾讯、百度陆续发布了“智能体”AI应用。行业内很多人断言，智能体就是下一个AI风口——如此易开发、有分发、有钱赚的智能体平台，必将能帮助普通人在AI时代获得流量和收入，成为超级个体。

例如一位51岁的退休妈妈。开通文心智能体一个月，她就已经接到10+商单了，甚至还有用户通过智能体复购了4次。

去年11月12日，在上海举办的百度世界大会上，百度发布了两个AI技术：检索增强的文生图技术（iRAG）以及无代码工具“秒哒 ”。大会上李彦宏说：“这意味着每个人自己就能指挥多个智能体来协同完成任务，只要有想法，你就可以心想事成。我们将迎来一个前所未有的，只靠想法就能赚钱的时代。”

在金钱的魅力下，咱们对于AI自然多了些向外，而这些会让风险被随之抛到脑后，换句话说AI在正道上产生的价值实在让人无法舍弃。

年轻人或许体会更深，最近一两年内有关AI取代工作岗位的消息频出，其中财务、翻译、银行被认为最有可能被代替，这还仅仅这是AI发展的起步阶段。

图源：微博@凤凰网科技

可以说要想逃脱被工具代替的现实，学会主宰工具是绕不过去的一个手段，有研究表明九成以上工作未来都离不开AI的加持。

或许能否掌握AI技术，正在制造年轻人之间的鸿沟。

目前来看，AI所带来的工具属性难题仍旧没有一个完美的应对之策。

前段时间的洛杉矶山火中，好莱坞标志牌着火的图片疯传网络，不光是营销号，还涉及一些社交媒体账号和新闻页面也在转发，但最终被证实为AI生成。

还有西藏定日县发生6.8级地震后，一系列“小男孩被埋图”在互联网平台广泛传播，并配文日喀则地震等关键词，最终同样被核查为AI生成，相关涉案人员已被公共机关依法行政拘留。

图源：微博@央视新闻

几乎在每一次重大舆情事件中，都有AI的身影，而且影响极为恶劣。

本质上是AI 技术在各个领域的广泛应用，显露出相关法律法规的缺失问题。

如中国信通院发布的《人工智能治理蓝皮书（2024年）》中介绍，近年来，人工智能内生风险加大，模型缺陷、幻觉等问题凸显；人工智能应用风险不断蔓延，人机伦理、劳动替代、能源短缺等问题突出。

同样也是泥沙俱下的浪潮中，人们被裹挟在AI的车轮下，并没有成为理性、负责任的善用者。

但改变正在发生，目前不少平台已经开始整治AI创造内容，如今年1月初快手推出七项措施推进算法向上向善，目的就是将谣言扼杀在摇篮里。

更早之前，抖音曾推出《抖音关于不当利用 AI 生成虚拟人物的治理公告》，小红书的AIGC 治理体系同样在不断推陈出新，平台正在积极承担起责任。

国家层面同样在不断跟进，根据《2024 年人工智能指数报告》，全球128个国家中，32个国家至少颁布了一项人工智能政策。

我国对于人工智能极为重视，2023年推出的《生成式人工智能服务管理暂行办法》是全球首部以生成式人工智能为对象的正式立法。

这些都是极为必要的，某种程度上来说，这是人类自我的反思与警惕——我们应该是掌控者，而不是被掌控者。

毕竟AI时代的野蛮生长仍在持续，正如火和火药的亲吻，狂暴的欢愉，必然带来狂暴的结局。

来源：财富取经路