大数跨境

在回答所有细节问题之前,先进行思考的模型系列:OpenAI o1

在回答所有细节问题之前,先进行思考的模型系列:OpenAI o1 土耳其小莫
2024-09-13
3
导读:o1-preview 以及专为代码生成而设计、更高效且更小的模型 o1-mini,昨日已在 ChatGPT 和 OpenAI 的 API 中上线使用。

OpenAI神秘项目Strawberry此前已提及。昨日,以Strawberry闻名的新模型o1正式向用户公开。实际上,o1以模型家族形式呈现,包含用于代码生成、更高效且更小的o1-preview模型和o1-mini模型,两者已于昨日在ChatGPT及OpenAI API中上线。

o1的主要特性

目前仅ChatGPT Plus或Team订阅用户可访问o1,企业和教育用户将于下周初开放权限。

与GPT-4o相比,o1体验相对简单,暂不支持联网浏览或文件分析。虽具备图像分析功能,但出于额外测试目的已被禁用。

此外,o1存在速率限制:o1-preview每周消息限额30条,o1-mini为50条。价格方面颇具争议,API中o1-preview输入token每百万个收费15美元,输出token每百万个收费60美元;相较GPT-4o,其输入成本高3倍,输出成本高4倍。

OpenAI计划向所有免费用户提供o1-mini访问权限,但尚未确定发布日期。

o1的思考能力

据OpenAI介绍,o1区别于其他生成式AI的关键在于“思考”能力,即回答前进行推理。其核心采用了CoT(Chain of Thought,思维链)机器学习方法,通过强化学习将复杂任务分解为小步骤逐一执行,从而提高准确性。

OpenAI研究员Noam Brown在X帖子中分享称,o1经强化学习训练,系统教会模型在给出答案前通过特定思维链思考。Brown表示,答案正确时模型获得奖励,错误则受惩罚。

Brown指出,训练过程使用了新优化算法、推理数据及针对推理任务调整的科学文献数据集。他总结道:

“o1思考的时间越长,它在需要推理的任务上表现就越好。”

当拥有额外思考时间时,o1能整体性思考任务并进行未来规划,还能在较长时间内执行一系列动作以得出答案。

在国际数学奥林匹克(IMO)高中数学竞赛资格赛中,o1正确解决了83%的问题,而GPT-4o仅解决13%。值得注意的是,Google DeepMind最新AI在相当于真实IMO竞赛的比赛中获得了银牌。此外,o1在Codeforces平台达到第89百分位水平,表现优于DeepMind旗舰系统AlphaCode 2。

在GPQA Diamond基准测试中,o1-preview解决的复杂科学问题得分超过博士级专家群体。OpenAI表示,o1在数据分析、科学和编码领域性能更佳。GitHub测试显示,配合Copilot使用时,o1在优化算法和应用代码方面表现出色。对比还表明,o1在多语言技能(特别是阿拉伯语和韩语)上优于GPT-4o。

o1有哪些缺点?

另一方面,o1在某些情况下运行较慢,用户反馈部分问题回答耗时超10秒。Brown提到o1有时会在井字棋游戏中卡住。技术论文显示,o1比GPT-4o更易出现幻觉,且较少承认自己不知道答案。

致力于提升AI推理能力的并非只有OpenAI。Google DeepMind近期发布的研究表明,通过提供更长计算时间并指导任务完成,可在无需额外调整的情况下显著提升模型性能。

【声明】内容源于网络
0
0
土耳其小莫
小莫带你了解土耳其电商,探索AI应用
内容 45623
粉丝 0
土耳其小莫 小莫带你了解土耳其电商,探索AI应用
总阅读56.4k
粉丝0
内容45.6k