摘要：您对《生成式人工智能引发的新型诈骗犯罪探究》这篇文章有何看法呢？关于本文的思考欢迎大家留言或投稿参与讨论。对于本微信公众平台发送的原创稿件，将结合阅读量酌情给予奖励，湖南省刑事法治研究会每年还会对原创文章进行评奖并给予不同的等级奖励。期待您的来稿！

您对《生成式人工智能引发的新型诈骗犯罪探究》这篇文章有何看法呢？关于本文的思考欢迎大家留言或投稿参与讨论。对于本微信公众平台发送的原创稿件，将结合阅读量酌情给予奖励，湖南省刑事法治研究会每年还会对原创文章进行评奖并给予不同的等级奖励。期待您的来稿！

投稿邮箱：hnsxsfzyjh@126.com

文章信息

文章作者：张焕然，苏州大学讲师、王健法学院学工办副主任

文章来源：《法治论坛》2024年第3辑

关键词：生成式人工智能；网络安全；新型诈骗；大数据分析；新兴业态

文章内容

一、生成式人工智能分析

随着生成式人工智能的不断发展，会出现许多新的问题的挑战。其一，在不同的条件下，数据模型有时会发生波动，从而导致性能出现失衡，进而出现前后结果输出的不一致或者是自相矛盾。其二，生成式人工智能的运行往往是基于海量的数据模型，但是由于数据模型的局限性，模型往往只能够展示相关粗略的结果，而无法明确指出这一决策背后的运行机制。其三，生成式人工智能需要先有输入数据进行学习的过程，一旦数据更新不及时，其给出的答案就可能无法满足需求，从而可能制约人工智能的发展。其四，当输入控制信号不及时，人工智能所生成的内容就不足够精细，调控不及时，此时可能无法满足用户的期望。

生成式人工智能的大量运用也会涉及不少法律问题：第一，有可能会泄露个人隐私。例如，在用户使用生成式人工智能的过程中，会产生大量的数据存储，如何保证这些数据不被第三方恶意盗取，或者恶意泄密也十分重要。第二，有可能会侵犯他人的知识产权与版权等。例如，如果开发者在开发人工智能之时，没有实现经过相关权利人的同意，就会造成侵权。第三，法律的规定存在滞后性，由此在开展司法工作时可能由于缺乏依据而难以展开裁判工作。

二、生成式人工智能滥用分析

作者首先简要分析了生成式人工智能技术滥用的主要原因，有利益驱使、缺乏有效监管、技术门槛低等等原因。与此同时，生成式人工智能技术的滥用也会给社会带来危害后果。首先，由于技术高度发达，借助人工智能途径会引起虚假信息的快速传播，这些虚假信息可能会误导群众的价值判断，甚至可能会引发恐慌。其次，目前人工智能技术在道德层面缺乏深入的了解和思考，缺乏价值观。最后，可能会损害相关行业的声誉，进而导致品牌形象受损等等后果。

三、生成式人工智能在新型诈骗犯罪中的体现

新型诈骗罪的主要特点有：一是犯罪手段智能化，法律监管困难。新的诈骗手段多采取线上方式进行，通过语音合成、面部形象合成等手段进行诈骗。二是犯罪地域分布广，打击难度高。例如近来高发的电信诈骗团伙就一般涉及到跨国问题，处理起来难度较大。三是犯罪团伙构成复杂。与以往诈骗团伙规模小、人员简单不同，新型诈骗团伙可能会吸引高知分子加入。四是犯罪隐蔽性强。此类犯罪分子大多会使用虚假的身份和隐藏技术，使得犯罪成功率提高，隐蔽性更强。五是诈骗金额巨大，追索难度提升。由于诈骗分子大规模开展诈骗活动，因此受骗的群体可能相当广泛，涉案金额会比较高。六是跨国犯罪执法难度大。此类诈骗多利用跨国网络实施犯罪，犯罪团伙也会借助境外渠道转移资产或洗钱，追索困难。

人工智能在新型诈骗犯罪中的表现形式主要有语音生成诈骗、文字生成诈骗、视频生成诈骗、社交软件诈骗等等。

四、解决生成式人工智能带来的新型诈骗问题的建议

（一）构建完整法律法规架构，实现法治保障

首先，人工智能立法应当涵盖多个部门法，跨度和深度应当兼顾。其次，我国人工智能法律制定可以借鉴国外的立法活动，但是又要突出我国国情和法理情理。最后，立法工作不但要与时俱进还要注意及时更新。总的来说，为有效打击诈骗犯罪活动，需要结合生成式人工智能最新的技术特点和诈骗新形态，有针对性地更新完善对于新型诈骗的相关法律规制。

（二）逐步完善刑法规定，做到严格执行

首先，应当对现有《刑法》进行部分章节的增补。其次，应当借助刑法修正案及时解决存在的问题。具体而言，就是通过刑法修正案对具体的犯罪行为进行分析，虽然目前为止还没有具体的刑法修正案针对新型诈骗问题作出规定，但是作者认为，随着国家对大型诈骗犯罪的逐步重视，未来将可以借助刑法修正案来明确犯罪行为，从而打击附随的有关犯罪，促进生成式人工智能在运行过程中的安全可控，实现对生成式人工智能不同阶段刑事风险的精准把控。

（三）打造智能司法审判系统，惩治诈骗犯罪

随着科技的发展，生成式人工智能的引入对智慧判案十分重要。生成式人工智能的引入有望带来同案同判的新变革，极大地促进司法公正的实现，有助于惩治犯罪。首先，应高度重视司法数据的收集、整理，逐步建立司法活动数据库。其次，应当打通各司法机关的工作内容，形成有效信息互通。最后，对于司法人员来说，学习和使用生成式人工智能格外重要，科学技术在不断向前发展，司法工作人员也应当不断加强学习。

五、生成式人工智能引发的反思

在这一部分，作者指出，技术本身并不存在对错，关键在于使用者如何看待和使用技术。因此，对于生成式人工智能，不能只靠道德自律的约束，应当完善法律规章制度，同时做到执法必严，合理运用大数据分析应对证据搜索。同时，还应当加强教育引导，提醒大家合理使用技术。最后，更应当持续技术革新，完善管理机制。

阅读感悟

本文以新型诈骗犯罪为切入点进行研究，进而分析生成式人工智能技术以及生成式人工智能技术下的新型犯罪。在大数据时代的今天，生成式人工智能技术的使用逐渐普遍，与之有关的新型诈骗犯罪也频繁发生，尤其是“AI换脸拟声”这一类型的诈骗，因此有关生成式人工智能的问题十分值得关注。诈骗发生在我们的身边，诈骗分子往往利用AI技术，将自己的面部替换为受害人熟人的面容，且声音也能模拟得十分相似，之后再通过视频通过或者其他社交手段向受害者借钱，受害人往往会因为看到熟悉的面容而放松警惕，进而上当受骗。亦或者，诈骗分子借助AI语音合成技术，模仿受害者亲朋好友的声音，然后编造例如遭遇车祸、检查出疾病等各种理由诱骗受害人，在此情况下，其亲朋好友可能会出于焦急的心理，而匆忙向诈骗分子转账汇款，由此跳入诈骗分子的陷阱之中。

这篇文章中主要提到有关生成式人工智能的三点建议，笔者认为，还远远不够。在2023年8月15日，我国正式施行《生成式人工智能服务管理暂行办法》，旨在促进生成式人工智能健康发展和规范应用。因此在现行法律体系之下，如何制定或修改与人工智能发展相适应的法律法规，以推动生成式人工智能的合理发展，是目前法律界探讨的重点问题之一。首先，应当在不同的监管机构之间明确划分职责，构建较为完善的监管体系，各监管机构之间应当相互配合，在各自的职责范围内尽职尽责，对人工智能加以规制，将肯呢个引发的诈骗犯罪及时扼杀，避免出现难以追回的危害后果。然后，我国可以适当调整证据认定规则，加大对此类犯罪的打击力度。因为随着技术手段的不断发展进化，AI的真实性越来越高，并且证据获取难度越来越大，所以应当建立专门针对于生成式人工智能技术真伪识别的鉴定标准，同时提升有关司法工作人员的专业水平，明确证据的认定规则。总的来说，技术的发展确实给人类社会带来了诸多便利，但是我们仍需要防范生成式人工智能所可能造成的危害结果。因此在使用此类技术的同时，我们也应当完善现有的法律体系以适应这些变化，有效应对生成式人工智能技术带来的新兴犯罪风险，最终才能有效预防和打击利用生成式人工智能技术实施诈骗等行为，切实维护公众利益。

监制：张永江

作者：彭瑶丹，湘潭大学法学学部2024级刑法学硕士研究生

编辑：彭瑶丹

责编：许媛媛

审核：吴霞

微信号｜湖南省刑事法治研究会

新浪微博｜@湖南省刑事法治研究会

来源：白鸽影视文化