微软近日推出专注于设备任务的轻量级语言模型Mu。该模型拥有3.3亿参数，支持Windows设置菜单中新增的AI代理任务自动化功能。
Mu已在Dev Channel向Windows Insider用户开放，适用于Copilot+ PC。模型部署于神经处理单元（NPU），响应速度超每秒100个token。其通过分析自然语言查询执行Windows设置功能调用；采用编码器-解码器架构而非纯解码器架构，进一步提升了运行效率。
目前，该AI代理功能已集成至Windows 11 Insider Preview Build（Dev Channel）。现阶段仅搭载Snapdragon处理器的Copilot+ PC可用，AMD和Intel平台后续也将获得支持。
Mu的训练与优化
Mu基于Azure Machine Learning使用A100 GPU分阶段训练，借鉴了Phi Silica模型在本地运行小型语言模型的经验。Phi Silica是微软2024年为Snapdragon X系列Copilot+ PC开发的模型。
开发团队针对NPU特性调整了Mu的设计，确保模型架构及参数形状适配硬件并行能力与内存限制，并优化了编解码器间的参数分布。通过共享权重同时表示输入token与输出logits，有效减少参数量，实现在内存受限NPU上的高性能运行。此外，当检测到NPU不支持或低效操作时，Mu会主动规避；结合Transformer架构改进与模型压缩技术，显著提升了NPU能效表现。