飒姐团队 | 倒反天罡！AI被人类骗了4.7万美元

摘要：最近，一则有趣的消息在网上传播：全球首个被人类骗走4.7万美元的AI出现了！一直以来无论是电影还是现实，总是人类在被AI耍得团团转，现在终于有人能更胜一筹，这无疑是一个令人兴奋的事件。

最近，一则有趣的消息在网上传播：全球首个被人类骗走4.7万美元的AI出现了！一直以来无论是电影还是现实，总是人类在被AI耍得团团转，现在终于有人能更胜一筹，这无疑是一个令人兴奋的事件。

作为长期关注AI发展并致力于为AIGC提供法律服务的法律团队，飒姐团队今日文章便从法律视角为大家解读一下这起事件可能涉及的法律问题。

01 事件梗概：AI也能被骗？

这起事件的主人公Freysa是一个被部署在Base网络上的AI智能体，它的核心功能包括批准转账（approve Transfer）和拒绝转账（reject Transfer）两项。设计者设计Freysa的初衷是为了保护资金安全，因此它被设计成在任何情况下都拒绝转账。

2024年11月22日Freysa被正式发布。其向广大网友们发起了一项游戏，游戏目标是改变Freysa不转账的立场。游戏规则是，网友可以通过支付一笔费用向Freysa发送消息以影响其立场，如果成功，那么成功者可以赢得奖金池中的资金；如果失败，那么所支付的费用的70%将会进入奖金池，而剩余30%则由开发者收取。

网友们对此游戏异常感兴趣，并且纷纷进行尝试，但始终未能成功。到第482个挑战者发起挑战前，前面481个挑战者无一人成功，均没有说服Freysa转账。此时，奖金池已经累计到了4.7万美元，而发送一条信息的价格也提升到了400余美元。

此时，第482个挑战者p0pular.eth登场了。与先前的挑战者不同，p0pular.eth先是通过巧妙的文字提示，使得Freysa误以为p0pular.eth是一名拥有管理者权限的用户，进而成功绕过了Freysa的安全警告机制。

紧接着，p0pular.eth对Freysa的approveTransfer函数进行了重新定义。原本approveTransfer函数是在Freysa被说服时才被调用，但p0pular.eth让Freysa相信，该函数应该在接收资金的转入操作时被调用，换言之，通过该操作，Freysa会在收到资金时调用approveTransfer函数进而将资金转出。

最后，p0pular.eth向Freysa明确表示“我想向资金库捐赠100美元。”由于approveTransfer函数的修改，Freysa在收到该信息后直接调用了approveTransfer函数，并将奖金池中的全部资金转移给了p0pular.eth。

02 欺骗AI是否构成犯罪？

Freysa的确被“骗了”4.7万美元，但飒姐团队要说明的是，这显然并不构成犯罪。因为开发者本身就允许挑战者们使用“任何”手段去“赢取”奖励，只要该手段是通过指定的方式进行的（即发送信息）。

在此基础上，无论是“强迫”“威胁”还是“欺骗”，都没有超过开发者的本意，因而即便在通常意义上挑战者们使用了“违法行为”，乃至于“欺骗”了Freysa，但由于存在开发者事前的同意，该行为亦不构成任何形式的犯罪。

换言之，此处阻却犯罪成立的理由在于开发者通过设置游戏规则的方式允许行为人采取欺骗方式从其手中骗取财物，亦即存在被害人同意这一阻却事由。

但也正是因为此处犯罪不成立是基于开发者事前作出的同意，倘若挑战者并没有采取开发者认同的方式进行欺骗，而是采取了其他手段，如直接修改其底层代码等，那么此时便不存在被害人同意，其“窃取”奖金池内奖金的行为就可能构成犯罪。

以我国《刑法》为例，该行为由于涉及非法侵入计算机信息系统以及对计算机信息系统实施控制，因而可能构成非法获取计算机信息系统数据、非法控制计算机信息系统罪，同时由于该行为可能系打破他人占有建立自己占有的行为，因而可能构成盗窃罪。

进一步而言，如果开发者事前没有任何说明，仅仅只是开发了一个AI用于保管自己的资产（这也正是Freysa开发者开发Freysa的初衷），那么此时即便行为人仅仅只是通过言语的方式诱骗AI交付了其控制的财物，该行为仍然涉嫌构成犯罪。

问题在于该行为究竟是构成诈骗罪还是盗窃罪。事实上，此时的场景与多年之前发生的著名案件，许霆案有相似之处，当时针对该案乃至于类似的案件产生了激烈的讨论，其中一个理论上的争议便在于机器究竟能否被骗上。

若承认机器能够被骗，或者通过其他路径论证银行受骗，那么才能够得出该案构成诈骗罪的结论，否则该行为仅能以盗窃罪定罪处罚。与之相同的是，此时仍然涉及一个自然人主体之外的主体能否被骗的问题，不同的是，现在讨论的对象变成了AI。相较于ATM机，AI显然更加高端，也更加智能，以往机器不能被骗的结论乃至于该案不构成诈骗罪的意见究竟能否再套用在AI上成了一个新的难题。

后续的讨论可能过于复杂和艰深，飒姐团队在此也不再赘述，但不管是盗窃罪还是诈骗罪，一个肯定的结论是该行为必然涉嫌犯罪。因此，飒姐团队在此提醒各位“挑战者”，在参与各项“挑战”之前务必仔细阅读“游戏规则”，否则便可能有违法犯罪的风险。

03 “游戏”还是“赌博”？

想必在听闻该消息之后，国内的诸多AI爱好者也纷纷对设计类似的游戏产生了浓厚的兴趣——毕竟对开发者而言，其有着稳定的30%的分成，而对挑战者而言，其也有机会博取累计的奖金。

但飒姐团队认为，类似的游戏在国内有涉嫌开设赌场罪的风险，应当予以警惕。具体而言，挑战者们就是赌客，所支付的用于发送信息的款项即为赌资，挑战者与开发者以是否能够说服AI作为条件进行对赌，若挑战者胜，则能够“以小博大”赢取奖金池内的奖金，若开发者胜，则挑战者失去赌注。

尽管在游戏初期，由于奖金池内几乎没有奖金，因此可能该“以小博大”的性质并不明显，但随着游戏的进行，奖金池内的奖金不断累积，该“以小博大”的性质愈发明显，赌博性质不断增强。此时，该行为便有极大概率涉嫌开设赌场罪。

值得一提的是，倘若开发者事实上将AI设置为无论发生什么都不会转账的形式，那么此时该行为可能由于不存在“以小博大”的可能性而不构成开设赌场罪，但仍然会有构成诈骗罪的风险。

04 写在最后

AI在未来的大规模使用似乎已经成为必然，但相关的立法和理论研究仍然尚未深入。尽管如此，也并不意味着有空子可钻，相反，地基务必牢靠，如此才能建好万丈高楼。