大数跨境

Anthropic的达里奥·阿莫代伊谈AI的局限:“我不确定是否存在任何局限”

Anthropic的达里奥·阿莫代伊谈AI的局限:“我不确定是否存在任何局限” 海外洞察
2023-09-21
3
导读:随着Anthropic在日益壮大的人工智能行业中与OpenAI及其他挑战者展开竞争,一个存在性问题也悄然浮现:能否

随着Anthropic在AI行业与OpenAI等对手竞争加剧,一个核心问题悬而未决:大语言模型及其支撑系统能否持续扩大规模并提升能力?Anthropic CEO兼联合创始人Dario Amodei给出了肯定回答。

Amodei:核心技术发展无障碍

Amodei在TechCrunch Disrupt上表示,不认为其核心技术未来发展会面临障碍。他指出:“过去十年训练神经网络的规模显著增加且效果持续提升,这正是我对未来两到四年甚至更长时间充满信心的基础——届时今天的成就将显得微不足道。”

针对明年是否会出现千万亿参数模型的提问,Amodei认为这超出了当前缩放定律的预期范围(该定律大致与算力呈平方关系),但他强调模型规模无疑将继续增长。

对“根本性限制”持怀疑态度

尽管有研究人员指出Transformer架构模型在某些任务(如三位数乘法)上仍存在困难,暗示可能存在能力缺失,但Amodei对此保持审慎乐观。

当被问及是否应识别此类根本性限制时,Amodei回应称不确定是否存在这样的限制,也不确定是否有好的衡量方法。他表示:“多年的扩展经验让我保持高度怀疑,但我同样对那些声称‘大语言模型无法做到某事’的说法持怀疑态度。若以不同方式提示、微调或训练,模型或许就能胜任。我并非断言模型现在或未来能做一切,只是对这些绝对论断及其反对者均持怀疑态度。”

Amodei总结道,至少在未来三到四年内不会看到收益递减现象;而在那之后,可能需要超过千万亿参数的AI才能预测未来走向。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k