大数跨境

多即是好?ChatGPT也学会了人类的语言偏见

多即是好?ChatGPT也学会了人类的语言偏见 小x的AI日记
2023-04-26
11
导读:在英语中存在着这样一种语言偏见:在改善某事物时,我们倾向于添加东西而非减少东西。一项新研究揭示了这个问题,而这种加法偏见在AI聊天机器人中甚至已经成为了根深蒂固的偏好。

一项由伯明翰大学、格拉斯哥大学等机构组成的国际研究团队在《认知科学》杂志发表最新成果,揭示了人工智能聊天机器人同样存在“加法偏见”。研究发现,AI算法倾向于使用含“加法”而非“减法”的词汇进行表述,这种偏好不仅符合人类长期的语言习惯,更可能导致决策复杂化及过度繁琐的行政程序。

英语语境中的“加法偏见”根深蒂固

研究表明,在表达“改进”概念时,英语语汇天然倾向于“添加”而非“减少”。伯明翰大学认知语言学系副教授Bodo Winter指出,“改进”(improve)一词在语义上更接近“加入”(add)和“增加”(increase),而非“去除”或“减少”。这意味着当人们询问“如何改进项目”时,实际上已在隐性呼吁通过增加要素来实现优化。

类似的偏见也存在于“改变”、“修改”、“修订”和“增强”等动词中。若不对此加以反思,这种语言结构层面的偏见将导致事物变得愈发复杂,甚至引发官僚主义问题。反之,在与改进相关的语境中,“减少”类词汇出现频率低且情感色彩偏中性,进一步印证了加法偏见的普遍性。

AI模型习得人类语言偏好

由于训练数据源于人类语言,AI聊天机器人深刻习得了这一偏见。研究人员测试GPT-3模型时发现,其明确表现出对“加法”的积极评价。该模型回应称:“在一物中加入另一物通常会使它变得更好”,并以“往咖啡加糖使其更好喝”及“新朋友加入带来快乐”作为例证。这表明,AI不仅继承了人类的语言模式,更内化了其中隐含的认知偏差。

警惕简化思维缺失带来的决策风险

Winter强调,英语中积极的加法偏见直接影响决策质量,使人们倾向于增加层级或要素,而忽视了简化可能带来的收益。研究建议,在工作或生活中提出改进意见时,应主动审视语言背后的思维定势,给予“做减法”同等的考量权重,避免因盲目叠加而导致效率降低。

【声明】内容源于网络
0
0
小x的AI日记
1234
内容 1675
粉丝 0
小x的AI日记 1234
总阅读1.8k
粉丝0
内容1.7k