摘要：在人工智能语音客服领域，一项长期存在的技术难题——延迟和对话不自然的问题，近日被一项创新合作所攻克。人工智能电话服务提供商Phonely、推理优化平台Maitai，以及芯片制造商Groq携手，共同研发出了一套能够快速切换模型、反应速度媲美人类的电话AI系统，这

在人工智能语音客服领域，一项长期存在的技术难题——延迟和对话不自然的问题，近日被一项创新合作所攻克。人工智能电话服务提供商Phonely、推理优化平台Maitai，以及芯片制造商Groq携手，共同研发出了一套能够快速切换模型、反应速度媲美人类的电话AI系统，这一突破标志着语音AI进入了全新的拟人化发展阶段。

据合作方透露，通过此次深度协作，Phonely的响应速度实现了显著提升，增幅超过70%。同时，AI对话的准确率也大幅跃升，从原先的81.5%提高到了99.2%，这一成绩甚至超越了GPT-4o的94.7%基准。这一显著进步的背后，得益于Groq的“零延迟LoRA热插拔”技术，该技术通过Maitai的动态编排平台，能够在多个微调模型间实现无缝切换，整个过程无需重新训练，也不会引入任何额外的延迟。

Groq的芯片是专为语言推理而设计的，其独特的语言处理单元（LPU）、流式架构以及高速片上内存等先进技术，使得模型能够在极短的时间内，即亚秒级内，做出响应。具体而言，“首个响应令牌时间”从原来的661毫秒缩短至176毫秒，整体完成时间也从1446毫秒减少到了339毫秒，这使得AI电话与真人之间的差别几乎难以察觉。

Phonely的首席执行官Will Bodewes对此表示：“目前，超过70%的用户已经无法区分我们的系统中是AI还是人类。延迟问题曾经是AI电话最明显的标志之一，但现在这一问题已经几乎不存在了。”

这一合作成果的效果立竿见影，仅在本月，Phonely就成功帮助一家客户替代了350个人工坐席。得益于其快速的部署能力，企业无需对API进行任何改动，便能在一天内完成迁移并上线，而且在一周内就能看到性能的显著提升。

此次合作不仅大幅提升了客户服务的体验，也预示着企业AI发展趋势的转变。企业不再仅仅追求“大而全”的通用大模型，而是开始转向更快、更准、更灵活的多模型微调系统。Maitai的创始人Christian DalSanto指出：“我们相信，企业AI的未来将由由专用模型组成的精细系统所主导，而不是依赖于孤立的单一大型模型。”

对于企业而言，这一变革不仅仅是性能上的提升，更是成本结构的深刻变革。企业无需再为排班、培训和管理庞大的客服团队而烦恼，AI客服成为了更为高效和经济的选择。同时，Groq与Maitai所提供的低延迟、高可控的架构，也为AI在保险、法律、汽车等多个领域的广泛应用扫清了障碍。

来源：ITBear科技资讯