摘要:在AI界,一款源自中国的开源大模型近期引发了国内外广泛关注。这款名为DeepSeek-V3的模型,由新兴AI企业DeepSeek研发推出,以其卓越性能和低廉的训练成本,在业界掀起了波澜。
在AI界,一款源自中国的开源大模型近期引发了国内外广泛关注。这款名为DeepSeek-V3的模型,由新兴AI企业DeepSeek研发推出,以其卓越性能和低廉的训练成本,在业界掀起了波澜。
DeepSeek-V3的技术论文详细阐述了该模型的研发过程。论文指出,DeepSeek-V3的参数规模从前代的2360亿提升至6710亿,在14.8T tokens的数据集上进行了预训练,上下文长度可达128K。评测结果显示,DeepSeek-V3的性能已成为目前最强大的开源模型之一,且在多个主流评测基准上,其表现可媲美GPT-4o和Claude-3.5-Sonnet等领先的闭源模型。
除了安德烈,阿里前副总裁贾扬清、metaAI科学家田渊栋、英伟达高级研究科学家Jim Fan等多位AI领域的大牛,也对DeepSeek-V3表示了赞赏。有网友甚至认为,这是“全球最佳开源大模型”,并预测这将推动AGI(通用人工智能)的实现比预期更早且成本更低。
DeepSeek-V3之所以能引起AI大牛的关注,很大程度上是因为其低廉的训练成本。据悉,该模型仅用了2000多张GPU,训练成本不到600万美元,远低于OpenAI、meta等在万卡规模上训练的模型成本。这一成本效益比,让DeepSeek-V3在业界脱颖而出。
在知识能力方面,DeepSeek-V3在MMLU-Pro和GPQA-Diamond等基准测试中超越了阿里、meta等所有开源模型,并领先GPT-4o,但略逊于Claude-3.5-Sonnet。而在数学、代码和推理能力方面,DeepSeek-V3在MATH500、AIME2024及Codeforces等多个主流基准测试中,不仅碾压了阿里和meta的最新开源模型,还超越了GPT-4o和Claude-3.5-Sonnet。
不过,值得注意的是,DeepSeek-V3在某些方面还存在局限性。例如,其英文能力还落后于GPT-4o和Claude-Sonnet-3.5,同时部署要求较高,对小型团队不太友好,且生成速度还有提升潜力。但DeepSeek在论文中表示,随着更先进硬件的开发,这些局限性有望得到解决。
来源:大力财经