当前，以ChatGPT为代表的大型语言模型（LLM）已展现出令人惊叹且难以预测的行为特征。
在探讨这一现象前，不妨先看一道测试题：下图表情符号代表哪部电影？
这四个符号对应的电影是《海底总动员》。该任务是去年评测LLM的204个任务之一。简单模型对此回答往往偏离事实；中型模型能猜出《The Emoji Movie》，接近正确答案；而最复杂的模型则准确给出了《海底总动员》。
谷歌计算机科学家Ethan Dyer指出，这种行为令人惊讶。模型仅通过“接受文本输入、预测后续内容”的统计重复过程，便涌现出处理新任务的能力。学者们原以为扩大规模仅能提升已知任务性能，未料模型竟能突然应对大量不可预测的新挑战。
Ethan Dyer的调查显示，LLM可创造出数百种“涌现（emergent）”能力，即大模型能做而小模型无法完成的任务。随着规模扩展，模型从基础运算到代码生成，再到解码表情符号，能力呈指数级增长。分析表明，特定任务存在复杂性阈值，一旦突破，功能将急剧提升。但研究者也警告，复杂性增加可能伴随新的偏见与不准确性。
斯坦福大学计算机科学家Rishi Bommasani表示，此前文献从未讨论过语言模型的此类能力。他参与编制的涌现行为清单仍在不断扩充。当前研究不仅致力于确定涌现能力，更试图探究其成因与机制，以预测不可预测性。理解涌现有助于揭示AI深层问题，明确模型是在创造新知还是仅精通统计，从而利用潜在优势并规避风险。
能力的突然涌现
“涌现”一词常用于描述大量个体作为整体行动时产生的自组织集体行为，如原子组成细胞、水分子形成波浪、椋鸟群飞等。关键在于，涌现能力出现在包含众多独立部分的系统中。研究人员直到近期才在LLM中记录到这种现象，因为模型刚发展到足够巨大的规模。
语言模型已有数十年历史。五年前，主流模型基于循环神经网络，通过逐字预测并反馈输出来学习。2017年，谷歌大脑推出Transformer架构，能够并行处理所有单词，大幅提升了文本处理效率。
布朗大学Ellie Pavlick认为，大模型可能从根本上学到了小规模模型不具备的新知识。通过增加参数数量，Transformer能快速扩大复杂性。参数如同单词间的连接，训练过程中调整这些连接可使模型更接近人类语言。OpenAI 2020年的分析证实，模型规模扩大确实提高了准确性和能力。
然而，大型语言模型带来了诸多意外。随着GPT-3（1750亿参数）和PaLM（5400亿参数）等模型问世，用户发现了越来越多涌现行为。例如，DeepMind工程师曾说服ChatGPT模拟Linux终端运行数学代码，且速度优于真实设备。这种零样本或小样本学习能力，一直是AI研究的长期目标，证明了模型能在无明确训练数据的情况下解决新问题。
目前，大量研究人员正致力于全面记录涌现现象，试图理解其表现形式及发生机制。
Ethan Dyer 帮助探索了大型语言模型意想不到的能力及其影响。（图片来源：Gabrielle Lurie）
超越模仿的本质
2020年，Dyer与谷歌研究院发起BIG-bench项目，旨在追踪LLM的外部极限。该项目借用图灵测试概念，特别关注模型突然获得前所未有新能力的案例。
研究发现，部分任务随复杂度增加呈现稳定提升，部分任务则无明显改善。但在约5%的任务中，性能在特定阈值内出现快速、戏剧性的跃升。例如，仅有几百万参数的模型无法完成三位数加法，但拥有数百亿参数的模型运算准确率会飙升。类似跃升还出现在解码国际音标、识别印地语冒犯性内容及生成斯瓦希里语对应谚语等任务中。
然而，复杂性并非唯一驱动因素。高质量数据可从较小模型中诱导意外能力，查询措辞也会影响响应准确性。当使用多项选择格式进行电影表情符号测试时，准确率随复杂度逐渐提高而非跳跃式提升。此外，谷歌大脑研究显示，具备思维链推理（Chain-of-Thought）提示的模型能自我解释并解答数学应用题，而无此提示的同款模型则不能。
谷歌系统性研究科学家Yi Tay指出，思维链提示改变了扩展曲线及涌现节点。这类要求模型解释推理过程的提示，有助于调研涌现成因。
Ellie Pavlick提出两种可能性：一是更大模型确实自发获得了全新能力，发生了根本性变化；二是看似涌现的现象实为内部统计驱动过程的顶点，大模型学习了小模型难以掌握的启发式方法。由于底层机制尚不明确，目前仍无法定论。
不可预测的能力与缺陷
大模型同样存在缺陷。例如，谷歌Bard曾在回答詹姆斯·韦布空间望远镜相关问题时出现事实性错误。涌现导致的不可预测性似乎随规模扩大而增加，令研究人员难以掌控。
Ganguli强调，在弄清规模影响之前，无法预知模型会出现何种能力及缺陷。Anthropic去年6月的分析报告指出，LLM可能表现出种族或社会偏见。这源于一个悖论：模型性能随规模提升的同时，也可能增加导致偏见或危害的不可预测现象。
Ganguli援引BBQ基准测试称，更大的模型可能突然变得更有偏见，若不解决此风险将危及模型应用。但他同时也发现，若直接指令模型避免刻板印象，其偏见会减少。这表明某些涌现特性也可用于去偏。Anthropic团队今年2月发布的论文提出了一种道德自我修正模式，通过提示程序保持有益、诚实和无害。
Ganguli总结道，涌现既揭示了LLM的惊人潜力，也暴露了不可预测的风险。随着应用激增，深入理解这种双面性对于充分利用语言模型能力至关重要。目前，研究人员正通过与模型持续交互、修补改进来建立信任，并探索用户的实际使用方式。
原文链接：https://www.quantamagazine.org/the-unpredictable-abilities-emerging-from-large-ai-models-20230316/
来源：机器之心