Deepseek催化LPU芯片需求大增
2024年,AI推理市场迎来历史性拐点。Groq公司公布的LPU(Language Processing Unit)实测数据引发行业震动:在Llama 2-70B推理任务中,其LPU系统实现每秒近300 token的吞吐量,相较英伟达H100实现10倍性能提升
2024年,AI推理市场迎来历史性拐点。Groq公司公布的LPU(Language Processing Unit)实测数据引发行业震动:在Llama 2-70B推理任务中,其LPU系统实现每秒近300 token的吞吐量,相较英伟达H100实现10倍性能提升
在科技发展日新月异的今天,人工智能(AI)已然成为全球竞争的焦点领域。而在 AI 发展的进程中,芯片就如同人的大脑,是核心中的核心。近年来,国产 LPU 芯片崭露头角,当它与同样备受瞩目的国产人工智能大模型 DeepSeek 携手,一场科技变革的风暴正在悄然酝