摘要：这个虚拟形象——其外貌和声音均由软件创建——代表原告 Jerome Dewald 出席了 3 月 26 日在纽约州最高法院上诉庭的听证会，案件涉及与保险公司 MassMutual Metro New York 的雇佣纠纷。

一位 AI 创业公司创始人试图使用人工生成的虚拟形象在法庭上为自己辩护，结果被法官因这一行为严厉训斥。

这个虚拟形象——其外貌和声音均由软件创建——代表原告 Jerome Dewald 出席了 3 月 26 日在纽约州最高法院上诉庭的听证会，案件涉及与保险公司 MassMutual Metro New York 的雇佣纠纷。

在口头辩论环节，Dewald 请求向五位法官播放一段视频，视频中展示了一位穿着 V 领毛衣的男子。视频开场白是："请允许法庭，我今天作为一名谦卑的自我代理人站在五位尊敬的法官面前..."（自我代理人指不聘请律师而自己为自己辩护的人）。

生成式 AI...在 Dewald 的听证会上，他的 AI 生成虚拟形象被播放给法庭的瞬间，如庭审直播所示

由于不认识这位发言者，其中一位法官，副法官 Sallie Manzanet-Daniels 立即打断并询问是谁在向法庭发言。"这是...等等？这是案件的律师吗？"

"那个？是我生成的，"亲自出席听证会的 Dewald 回答道。

"抱歉？"法官说。

"是我生成的，"Dewald 重申。"那不是真人。"

"好吧，"法官厉声说道。"如果你在提出申请时就告知我们这一点就好了。你没有告诉我这些，先生。"

这里提到的申请是指 Dewald 请求播放视频来陈述案情，因为据他所说，他的医疗状况使他难以在法庭上长时间口头发言。然而，法官团并不期望一个计算机生成的人物出现。

"你之前已经出现在本法庭并能够进行口头证词，"Manzanet-Daniels 法官继续说。"你曾到我的办公室，与我们的工作人员进行了超过 30 分钟的口头交谈。"

"我不喜欢被误导。所以要么你确实患有阻碍你清晰表达的疾病，要么就没有。你不能把这个法庭当作你的商业发布会，先生。如果你想要口头辩论的时间，你可以站起来直接向我陈述。"

声音问题？还是 AI 商业炒作？

在本周接受《The Register》采访时，Dewald 表示："我事先向法庭申请了许可，他们也同意了。所以他们对于有演示并不是毫无准备，他们只是没准备好看到一个人工生成的形象。"

法官提到的疾病是指 Dewald 25 年前患过喉癌。"长时间说话对我来说是有问题的，"他解释道。"我可以详述发生的各种情况，但这正是他们同意让我进行演示的部分原因。"

"我事先确实获得了许可，他们也给了我。所以他们对于有演示并不是毫无准备，他们只是没准备好看到一个人工生成的形象。"

Dewald 经营着一家名为 Pro Se Pro 的创业公司，旨在帮助无代理人的诉讼当事人在不聘请律师的情况下应对美国法律系统。他原计划使用名为 Tavus 的 AI 服务创建一个逼真的自己的视频虚拟形象，向法庭宣读他的辩词。

"我确实提前获得了许可，"他声称。"我本打算使用我自己的复制品，那会是我说话的影像。但这项技术相当新，我以前从未为自己或任何人制作过复制品。"

数字版 Dewald 未能交付，所以他派出了 Jim

Dewald 解释说，创建虚拟形象出庭的过程涉及向 Tavus 提供 2-4 分钟的主体说话视频，以及一段 1 分钟显示主体静止的片段。这些材料用于生成主体的数字复制品，这个过程需要大约 2-4 小时。不过，他最终使用了一个名为 Jim 的默认虚拟形象，而非自己的形象。

"在我的基本计划中，每月只能生成三个复制品，"Dewald 说。"所以我试图节约使用。我尝试了一次，大约 6 小时后失败了。我又尝试了一次，大约 8 小时后也失败了。到我们准备听证会时，我仍然没有自己的复制品。所以我就使用了他们的一个库存复制品，那个高大英俊的家伙，他们称之为 Jim。"

非真实人物...Jim，Tavus 生成的默认虚拟形象之一，在演示视频中的样子，与 Dewald 在听证会上使用的类似

"Jim"在听证会上只说了几句话就被打断了。

"你可以看到法官很生气，一开始她真的很生气，"Dewald 说，他最终不得不亲自向法庭陈述。"然后当我开始进行我的陈述时，尽管表现得很糟糕，她似乎变得更加同情了。她脸上的表情更像是在说，'好吧，我很抱歉我对你发那么大火。'"

从法庭冲突到停滞的 AI 项目

虽然已有几起律师因提交含有 AI 生成的不准确内容的法庭文件而被法官训斥的案例，但 Dewald 认为，这次法官的愤怒是因为视频演示中出现了意料之外的人物。

当被问及法庭的反应是否让他对 AI 在法律事务中的可行性产生疑虑时，Dewald 说："我不知道，但技术变化得太快了。你知道我的网站，我们有相当数量的浏览量，但我们实际上没从中获得多少业务。"

Dewald 表示，由于缺乏资金和其他问题，他无法发展他的 AI 法律业务，所以已经闲置了大约一年。

"在人工智能世界里，一年就像一个纪元，"他说。"当我建立它时，我们还在使用 ChatGPT-3.5 的水平。我们的核心是一个场景分析器，这是一个 AI 组件，它会采访自我代理人然后给出一些建议。我认为这不算法律建议，但你可以有不同看法。"

"那个组件运行得还算可以。它涉及一个技术栈，其中包含一些现在已被弃用的亚马逊组件。整个格局已经发生了巨大变化，以至于该网站现在需要用智能代理 AI 重建，因为你现在可以做更多的事情。"

不是产品演示

Dewald 淡化了法官关于不要利用法庭作为推广其业务的场所的警告。"那里没有任何东西在推广我的任何业务，"他说。

"我认为法院对 AI 使用持非常怀疑的态度"

当被问及 AI 是否应该在法庭上被接受时，Dewald 说："我认为法院对此持非常怀疑的态度。关于我使用的复制品和演示，除非我给他们读的脚本中有幻觉，否则不会出现幻觉。我确实使用了生成式 AI 来起草脚本，但我也非常彻底地检查了它。我做这个已经很长时间了。"

Dewald 有工程和计算机科学背景，但不是律师。他说他在 20 世纪 70 年代被纽约的一所法学院录取，但从未就读。他还说他最近参加了法学院入学考试，是一些律师协会的成员，并关注 AI 在法律领域的演变应用。

向法庭披露你的 AI 使用情况，然后看着他们对此持反对态度

他引用了大约一年前几位纽约法官的一个小组讨论，建议应当向对方和法庭披露 AI 的使用。

"我已经这样做了一年多，"Dewald 说。"我不确定这有多大用处，因为在某些方面，完全公开披露的另一面，我认为有时会有歧视性。它往往会使读者对你产生偏见，因为人们对幻觉和 AI 有如此负面的看法。"

他说幻觉确实是 AI 的一个真正问题，还有错误引用实际案例和误解案件前提。他补充说，他在检查 AI 输出的准确性时非常彻底。

Dewald 指出了美国律师协会最近举办的一个研讨会，"在司法系统中导航人工智能"，该研讨会涵盖了司法官员负责任使用 AI 工具的指导方针。

"AI 实际上倾向于赋能无代理的诉讼当事人，给他们在法庭上通常不会有的发言权"

该研讨会试图解决关于 AI 的常见担忧，如模型偏见、幻觉和保密性。它还提到了突破法律规范的界限，比如当 AI 模型被用来生成法庭记录之外的输出，这可能会被提出作为一种未经认证的专家证人。

法院也开始使用 AI。正如研讨会指出的，亚利桑那州的法院已经部署了数字虚拟形象来总结判决。

Dewald 认为 AI 可以帮助自我代理人，并且"实际上倾向于赋能无代理的诉讼当事人，因为它给他们在法庭上通常不会有的发言权。"

他补充说，他已经向法庭提交了道歉，因为"不完全透明是一个错误"，他应该警告法官他的辩论将由虚拟形象呈现。

来源：至顶网