大数跨境

微软的新工具包让在 Windows 上本地运行 AI 变得更加轻松

微软的新工具包让在 Windows 上本地运行 AI 变得更加轻松 海外洞察
2023-11-15
2
导读:微软全新的 Windows AI Studio 提供了工具链和优化后的模型,使在 Windows 设备上本地运行 AI 变得更加简便。

微软正通过发布 Windows AI Studio,将生成式 AI 体验从云端延伸至 Windows 设备。该平台于 Ignite 2023 大会揭晓,预计未来几周内推出预览版,旨在整合 AI 工具与模型目录,支持开发者在 Windows 应用中微调、自定义模型并实现本地离线部署。

灵活部署:本地、云端或混合模式

Windows AI Studio 不强制限定部署环境,提供本地运行、远程数据中心运行及混合配置等多种选择。微软 Windows 系统和硅集成组杰出工程师 Logan Iyer 表示:“鉴于 AI 发展迅速,我们优先为开发者提供所需工具与资源,助力其在 Windows 上快速启动本地 AI 开发。”

图片来源:微软

引导式界面与模型生态

平台模型目录汇集了微软及 Hugging Face 等第三方存储库的模型。开发者可使用自有数据集在本地完成选择、配置、微调及测试,再决定部署位置。Iyer 指出,针对以往缺乏引导式微调界面的痛点,Windows AI Studio 提供了分步操作指引,让开发者专注编码,降低生成式 AI 应用部署门槛。

“提示流”功能与 VS Code 扩展

即将上线的“提示流”功能支持应用根据需求自动切换本地轻量模型与云端大模型。在配备 AI 加速芯片或 GPU 的设备上,还将支持 Meta Llama 2 及 Stability AI Stable Diffusion XL 等高性能本地模型。此外,Windows AI Studio 计划作为 VS Code 扩展插件推出。

Iyer 强调,目标是赋予开发者更多选择权,使其能按需灵活调度云端或边缘设备算力。尽管简化本地部署的工具备受期待,但 Windows AI Studio 在实际运行高性能模型时的易用性,仍需等待公开预览版验证。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k