微软公布了其 Phi 系列生成式 AI 模型的最新成员。
该模型名为 Phi-4，微软声称它在多个方面较前代有所提升，尤其是在解决数学问题方面。这在一定程度上得益于训练数据质量的提高。
自周四晚起，Phi-4 仅在微软最近推出的 Azure AI Foundry 开发平台上以非常有限的访问权限提供，且仅限在微软研究许可协议下用于研究目的。
这是微软最新的轻量级语言模型，拥有 140 亿参数，将与 GPT-4o mini、Gemini 2.0 Flash 和 Claude 3.5 Haiku 等其他小型模型展开竞争。这些较小的 AI 模型通常运行速度更快、成本更低，且在过去几年中其性能逐渐提升。
在这种情况下，微软将 Phi-4 的性能飞跃归因于使用“高质量合成数据集”以及高质量的人类生成内容数据集，并辅以一些未公开的后期训练改进。
如今，许多 AI 实验室都在密切关注他们在合成数据和后期训练方面的创新。Scale AI 的首席执行官 Alexandr Wang 表示，“我们已触及预训练数据墙”，证实了几份报告关于这一主题在过去几周内的报道。
值得注意的是，Phi-4 是 Sébastien Bubeck 离职后发布的第一个 Phi 系列模型。Bubeck 此前曾是微软的 AI 副总裁之一，也是该公司 Phi 模型开发的关键人物，他于 10 月离开该公司加入 OpenAI。