自主算力真的行!来 Serverless API 试试天数智芯资源包

B站影视 2024-12-20 15:01 1

摘要:经过紧锣密鼓的筹备与适配,Serverless API 现已正式推出天数智芯资源包,全线使用天数智芯自研的智铠 100 系列 GPU,使用自主平台,用自主算力资源调用自主模型已成为现实!

天数智芯资源包限时免费活动进行中!活动期间可使用天数智芯算力资源免费调用Qwen2-7B-Instruct、glm-4-9b-chat、jina-clip-v1、codegeex4-all-9b四款模型,快来试试吧!

经过紧锣密鼓的筹备与适配,Serverless API 现已正式推出天数智芯资源包,全线使用天数智芯自研的智铠 100 系列 GPU,使用自主平台,用自主算力资源调用自主模型已成为现实

模型资源包是 Severless API 的调用套餐产品,使用方便、价格实惠。购买后会自动抵扣调用 Severless API 产生的费用,直到模型资源包用完或到期为止。

为了满足不同开发者对于算力的要求,除了全模型资源包外,Serverless API 还推出了指定算力的模型资源包,天数智芯作为 Gitee AI 首批战略合作伙伴,现已共支持文本生成、视觉模型、文本转图像、语音合成、特征抽取、代码生成六大类共十八款模型,充分满足不同领域开发者的需求。

购买资源包后,即可选择资源包中的模型进行调用。未来可用模型的种类将不断增加,无需另外付费即可享用新的模型。

购买资源包后,首先需要创建资源包对应的访问令牌,开发者可根据个人需求选择对应的资源包,下图则是新建了一个仅使用天数智芯资源包的访问令牌。

开发者可以在工作台-资源-Serverless API中看到目前拥有的资源包。

点击资源包后操作下的模型调用,即可展开查看资源包支持的模型,以及调用次数、响应时间、平均字节数等调用日志概览。

选择想要调用的模型,将访问令牌设置为刚才创建的天数智芯资源包令牌,即可使用天数智芯的智铠 100 系列 GPU 进行模型的测试和 API 调用了。

天数智芯是中国领先的通用 GPU 高端芯片及超级算力系统提供商。天数智芯通用 GPU 产品具有高性能、通用性、灵活性等特点,支持国内外主流 AI 生态和各种深度学习框架,已支撑各行业客户在人工智能领域进行超过数百个不同种类的模型训练,获得客户高度认可。

天数智芯研发的智铠 100 系列通用 GPU 推理加速卡是天垓 100 训练加速卡后天数智芯正式向市场推出的第二款产品,标志着天数智芯率先成为国内拥有云边协同、训推组合成立的完整通用算力系统提供商

智铠 100 系列拥有以下特点:

支持 FP32、FP16、INT8 等多精度推理混合计算,实现了指令集增强、算力密度提升、计算存储再平衡。

应用覆盖广

智铠 100 系列加速卡基于通用 GPU 架构,支持多种视频规格解码、800+ 通用指令集、国内外主流深度学习开发框架,拥有丰富编程接口拓展和高性能函数库,可以灵活支持各种算法模型,便于客户自定义开发,

使用成本低

兼容 CUDA 生态,支持市场主流生态,高达 128 路视频接入,单路视频性价比高灵活的编程能力,超强的性能及富有吸引力的性价比,为高性能计算和人工智能应用的开发和部署提供了便利。平均迁移时间相较市场主流产品下降 50% 以上,生态应用迁移迅速。

智铠 100 全自研架构、核心及软件栈,支持算力开发与优化,可根据客户需求提供定制化开发服务。

来源:码云Gitee

相关推荐