三行代码

Hugging Face集成Groq，三行代码实现10个开源模型推理速度超每秒800 token

美国AI芯片创企Groq昨天宣布，其已正式成为Hugging Face Hub支持的推理服务提供商，推理服务已无缝集成至Hugging Face的JS和Python客户端SDK，开发者可便捷地将各类模型与优选服务提供商对接使用。