埃隆·马斯克(Elon Musk)的 xAI 已在 GitHub 上开源 Grok AI 模型的基础代码,但未包含任何训练代码。该公司将其描述为拥有 3140 亿参数的混合专家(Mixture-of-Expert)模型。
xAI 在博客文章中表示,该模型并未针对对话等特定应用进行微调。该公司指出,Grok-1 是在一个“自定义”堆栈上训练的,但未透露具体细节。该模型的许可协议为 Apache License 2.0,允许商业用例。
上周,马斯克在 X 平台上表示,xAI 计划在本周开源 Grok 模型。去年,该公司以聊天机器人的形式发布了 Grok,供 X 社交网络的 Premium+ 用户使用。值得注意的是,该聊天机器人可以访问部分 X 数据,但开源模型不包含与该社交网络的连接。
许多知名公司已开源其部分 AI 模型,包括 Meta 的 LLaMa、Mistral、Falcon 和 AI2。今年二月,Google 还发布了两款新的开源模型,名为 Gemma2B 和 Gemma7B。
一些 AI 工具制造商已经开始讨论在他们的解决方案中使用 Grok。Perplexity 首席执行官 Aravind Srinivas 在 X 上发帖称,该公司将对 Grok 进行微调以用于对话式搜索,并将其提供给 Pro 用户。
是的,多亏了 @elonmusk 和 xAI 团队开源了 Grok 的基础模型。我们将对其进行微调以用于对话式搜索,优化推理过程,并向所有 Pro 用户开放!
—— Aravind Srinivas (@AravSrinivas) 2024年3月17日
马斯克一直与 OpenAI 陷入法律纠纷,并于本月早些时候起诉该公司,指控其“背叛”了非营利 AI 的目标。此后,他多次在 X 上点名批评 OpenAI 和 Sam Altman。

