
近日,埃隆·马斯克(Elon Musk)以开源形式发布了人工智能Grok,包含拥有3140亿参数的混合专家模型Grok-1的基础权重与网络架构。随着马斯克对OpenAI提起诉讼,双方围绕AI模型的冲突也愈发引人关注。
Grok-0 和 Grok-1
Grok-1的原型Grok-0采用330亿参数训练,能力接近Meta与微软联合开发的LLaMA 2(70B),但仅消耗了后者一半的训练资源。
为部署Grok,团队基于Kubernetes、Rust及JAX构建了定制化的训练与推理栈。数据显示,Grok-1在Python代码补全任务HumanEval上得分63.2%,在多学科多项选择题基准MMLU上成功率达73%。
对比同计算量级的其他模型(含ChatGPT-3.5、Inflection-1等),Grok-1在MATH和GSM8k测试中表现领先。不过,GPT-4和Claude的整体性能仍优于Grok。
此外,xAI团队还对Grok-1、Claude-2和GPT-4进行了2023年匈牙利全国高中数学决赛评分测试。结果显示:Grok以59%的准确率获C级;Claude-2得分为55%;而GPT-4以68%的成绩获得B级。
值得一提的是,OpenAI的GPT-4 Turbo同样表现出色,其128k token上下文窗口是标准版GPT-4的四倍。
ChatGPT 凭借多模态能力脱颖而出
目前Grok仅支持文本交互,暂无法理解图像或视频内容。未来计划为其增加多模态能力,赋予视觉与听觉感知功能。
相比之下,ChatGPT已具备视觉识别、语音交互及对话能力。Grok团队正致力于提升长上下文数据理解及按需检索能力,但目前尚未公布相关进展。
Grok 与 ChatGPT、Claude 和 Gemini 的区别
Grok的核心优势在于能整合X平台(原Twitter)的实时数据生成回答。不同于Claude、Gemini和ChatGPT受限于训练数据时效及网络过滤机制,Grok可提供包含最新资讯的内容。
马斯克明确表示,旨在让Grok避免Anthropic的Claude和Google的Gemini中常见的“政治正确”倾向。他认为将AI训练得过于“政治正确”等同于教其说谎,具有致命风险。
综上所述,得益于GPT-4系列模型,ChatGPT在多模态特性上领先于Grok;而Grok选择开源模型,则为行业创新发展开辟了新路径。

