
我们此前曾介绍过埃隆·马斯克(Elon Musk)推出人工智能公司xAI的消息。马斯克于11月4日首次分享了ChatGPT竞争对手Grok的详细信息。根据披露,Grok能够实时访问X平台数据,这使其相较于其他模型具备独特优势。
xAI 的 Grok 系统旨在在回复中融入些许幽默 pic.twitter.com/WqXxlwI6ef
—— 埃隆·马斯克 (@elonmusk) 2023年11月4日
xAI表示,Grok系统度过早期Beta阶段后,计划向X Premium+订阅用户开放。用户每月支付16美元即可使用Grok人工智能助手的Web版。据马斯克所述,与ChatGPT不同,Grok在其回答中融入了幽默元素。
大型语言模型 Grok-1
根据发布的信息,Grok-1的原型机Grok-0使用了330亿参数进行训练。这一初始模型的能力接近Meta和Microsoft合作开发的LLaMA 2(70B),但仅消耗了后者训练资源的一半。
据悉,Grok-1在Python代码补全任务HumanEval上取得63.2%的成绩,在提供多学科多项选择题的MMLU测试中成功率为73%。此外,如下表所示,Grok-1超越了同计算类别中的其他模型,包括ChatGPT-3.5和Inflection-1。相关评测还包括MATH和GSM8k等基准测试。
除上述评估外,xAI团队还指出,他们在2023年匈牙利全国高中数学决赛中对Grok-1、Claude-2和GPT-4进行了评分。结果显示:Grok以59%的成绩获得C等级通过;Claude-2获得相同分数(55%);而GPT-4以68%的成绩获得B等级。
xAI的工程方法与研究
在博文中,xAI分享了其工程方法。团队指出,为推出Grok,他们构建了基于Kubernetes、Rust和JAX的定制训练和推理堆栈。
未来,计划让Grok通过多模态能力获得视觉和听觉等其他感官功能。值得注意的是,ChatGPT目前已拥有视觉、听觉和说话能力。此外,团队的研究重点还包括理解长上下文并在需要时准确检索返回这些数据的功能。
目前,Grok原型仅向美国少数用户开放。您可以使用X账户注册等待名单,但要使用Grok原型,必须拥有经过验证的X账户。

