摘要:韩国KT Cloud 24 日宣布,已将 NVIDIA 最新的 GPU H200 应用于其图形处理单元云服务 (GPUaaS)。KT Cloud 提供 GPU aaS,例如AI Train,它专注于需要在短时间内供应大容量和高规格 GPU 的学习领域,以及AI
据韩联社2月24日首尔报道,韩国KT Cloud 24 日宣布,已将 NVIDIA 最新的 GPU H200 应用于其图形处理单元云服务 (GPUaaS)。KT Cloud 提供 GPU aaS,例如AI Train,它专注于需要在短时间内供应大容量和高规格 GPU 的学习领域,以及AI SERV,它专门用于需要不间断地持续供应少量 GPU 的推理领域。
KT Cloud 解释说,H100以前主要应用于这些服务,与H100 相比,H200 具有更高的计算处理能力和能效,以及更宽的内存带宽,以提供高性能的学习和推理基础设施环境。与此同时,在神经网络处理单元(NPU)领域,KT Cloud 正在与 AI 半导体初创公司 Rebellion 合作,提供AI SERV NPU服务,这是一种专门用于推理的基础设施。计划于今年 5 月发布的 Rebellion Atom Max将应用于 AI SERV NPU,以验证小语言模型(sLM)所需的 NPU 性能。
KT Cloud 宣布,将积极响应公共部门对 AI 的需求,在今年下半年对公共机构的纯推理产品进行云服务安全认证系统 (CSAP) 认证流程。
(编译:雅慧)
链接:
来源:邮电设计技术
免责声明:本站系转载,并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题,请在30日内与本站联系,我们将在第一时间删除内容!