AI模型常令人惊讶，不仅因其能力，更因其局限。一种有趣的新现象揭示了系统本质：它们像人类一样“随机”选数，且表现糟糕。
这究竟意味着什么？人类真能随机选数吗？如何判断是否成功？这源于人类古老的认知局限：我们过度思考并误解了随机性。
若让人预测100次抛硬币结果并与实际对比，几乎总能分辨差异。反直觉的是，真实抛硬币结果看起来反而不那么随机。例如，常出现连续六七次正面或反面，而人类预测者极少包含此类情况。
要求在0到100间选数时亦然。人们几乎不选1或100；5的倍数、66和99等重复数字也罕见。这些在我们看来不“随机”，因它们带有小、大、独特等特质。相反，我们常选以7结尾的中间范围数字。
心理学中此类可预测性案例无数。但当AI也表现出同样行为时，其怪异感并未减少。
Gramener工程师进行了一项非正式但引人入胜的实验：要求主流LLM聊天机器人从0到100间选择随机数。
结果显示，答案并不随机。
三个测试模型均有“偏爱”数字。在确定性模式下，该数字总是答案；即使提高“温度”（增加变异性的设置），它仍最频繁出现。
OpenAI GPT-3.5 Turbo偏爱47（此前为42，即《银河系漫游指南》中生命、宇宙及一切的终极答案）；Anthropic Claude 3 Haiku选择42；Gemini则喜欢72。
更有趣的是，所有模型在其他数字上也表现出类似人类的偏见，高温度下亦然。
它们倾向于避免低数和高数：Claude从未超过87或低于27，极端值亦属异常；严格避免重复数字（无33、55、66，但有77）；几乎不选整十数——尽管Gemini在最高温时曾选0。
为何如此？AI并非人类！它们为何在意“看起来”随机？难道终于产生意识并以这种方式展示？
不。答案通常是我们对AI拟人化过度。这些模型不关心何为随机，甚至不知“随机性”为何物。它们回答此问题与其他问题无异：检索训练数据，重复“选一个随机数字”后最常出现的回答。出现越多，重复越频。
训练数据中何处可见“100”作为答案？毕竟鲜有人如此作答。AI完全不知“100”并非可接受答案。因缺乏真正推理能力及数字含义理解，它只能如随机鹦鹉般机械回应。（同理，它们在简单算术任务上往往不佳，如多位数相乘；毕竟“112*894*32=3,204,096”出现在训练数据中的概率多高？不过较新模型能识别数学问题并交由专门子程序处理。）
这是关于大型语言模型（LLM）习惯及其看似人性特征的生动教训。与这些系统互动时，须牢记：它们被训练成以人类方式行事，即便非初衷。这正是拟人化错觉难以避免或预防的原因。
标题称模型“认为自己是人”略有误导。正如常指出的，它们根本不会思考。但在回应中，它们始终在模仿人类，无需知晓或思考任何事。无论询问鹰嘴豆沙拉食谱、投资建议还是随机数，过程皆同。结果感觉像人类，确因源自人类创作内容的重组——既为方便用户，也为大型AI公司利润。