微软推出Windows ML框架,在不同硬件架构上部署模型变得更简单

B站影视 欧美电影 2025-09-24 16:39 1

摘要:今天,微软在Windows博客上正式发布了可用于生产环境的Windows ML。它是内置的AI推理运行时,针对本地设备的模型推理进行了优化,并且简化了跨CPU、GPU和NPU的模型依赖关系管理。

今天,微软在Windows博客上正式发布了可用于生产环境的Windows ML。它是内置的AI推理运行时,针对本地设备的模型推理进行了优化,并且简化了跨CPU、GPU和NPU的模型依赖关系管理。

Windows ML与ONNX运行时相兼容,因此开发者能非常容易地把现有的模型过渡到Windows ML上来,他们也可以通过VS Code的AI工具包转换PyTorch模型并部署到Windows 11 PC上。在新的框架下,Winodws处理ONNX运行时和执行提供者(Execution Providers)的维护和分发。执行提供者是软件框架和芯片之间的组件,可以在NVIDIA、AMD、英特尔和高通的不同芯片上优化模型。

得益于Windows ML框架,开发者可以将他们的模型快速部署到各种硬件架构的设备上,而不需要针对特定芯片构建程序,该框架还支持预编译模型。又因为统一了运行时,Windows ML还能减少应用程序的开销。兼容性和硬件优化同样是这个框架的优点。

目前Adobe、BUFFERZONE、McAfee等多家公司的产品已经准备在新版本中采用Windows ML。以Adobe的Premiere Pro和After Effects为例,他们准备将全部本地运行的AI模型迁移到Windows ML上。McAfee则利用AI模型自动检测网络上的deepfake视频和其他钓鱼手段。

来源:超能网

相关推荐