NVIDIA推出小型AI计算机:带宽增50%,推理性能提升70%

B站影视 2024-12-18 13:15 1

摘要:目前在AI领域,最成功的公司应该就是NVIDIA,其推出的显卡以及Tesla计算卡凭借其强大的实力获得了消费者以及大中型企业的一致认可,大家纷纷采用NVIDIA的产品终端实现AI训练以及推理,导致NVIDIA的产品供不应求,处于严重断货的状态,并且这些AI设备

目前在AI领域,最成功的公司应该就是NVIDIA,其推出的显卡以及Tesla计算卡凭借其强大的实力获得了消费者以及大中型企业的一致认可,大家纷纷采用NVIDIA的产品终端实现AI训练以及推理,导致NVIDIA的产品供不应求,处于严重断货的状态,并且这些AI设备的价格也十分地高昂,从而让普通用户很难感受AI带来的出色魅力,因此NVIDIA如今也推出了面向入门级用户打造的AI开发者套件,希望借助这些套件能够让更多的人接触到AI,享受AI创作的魅力。

NVIDIA这一次推出的AI套件名为Jetson Orin Nano Super,它拥有67TOPS的INT8算力,与上一代相比,AI推理性能是上一代的1.7倍,除此之外为了应对AI推理所需的超大带宽,这款AI超算套件的内存带宽也提升了50%,达到了恐怖的102GB/s,NVIDIA还表示这颗迷你超算可以应对包括LLM、视觉AI等各种AI应用,从7W到25W的功耗应有尽有。

当然这个AI套件主要面向AI开发者使用,并且也算是入门级的开发套件,价格则为249美元,比过去要便宜不少。估计NVIDIA是希望用户能够以一个低廉的价格先体验到AI带来的出色魅力,未来等到深入研究AI,那就购买更加高昂的NVIDIA显卡或者计算卡,对于普通用户来说,想要尝试AI,基本上一款RTX 3060显卡就足够了。

来源:热点科技

相关推荐