微软与卡内基梅隆大学研究：生成式AI或削弱职场批判性思维
来自微软和卡内基梅隆大学的研究人员最近发表了一项研究，探讨在工作中使用生成式人工智能对批判性思维能力的影响。
论文指出：“如果技术被不当使用，确实会导致本应得以保留的认知能力退化。”
当人们在工作中依赖生成式人工智能时，精力会转向验证AI回答的可用性，而非运用创造、评估和分析信息等更高层次的批判性思维技能。论文称，若人类仅在AI回答不足时才进行干预，员工将失去“日常练习判断力并强化认知肌肉的机会”，导致在例外情况出现时变得萎缩且准备不足。
换言之，过度依赖AI替我们思考，一旦AI失效，自身解决问题的能力便会下降。
调研发现：36%用户需额外投入批判性思维以规避风险
在这项针对319人的研究中，受访者均报告每周至少在工作中使用一次生成式AI。研究人员要求分享三个使用案例，主要归为三类：
- 创作类：如给同事写格式化邮件；
- 信息类：如研究主题或总结长文；
- 建议类：如寻求指导或利用数据制图。
随后，研究人员询问执行任务时是否运用了批判性思维技能，以及使用AI是增加还是减少了相关精力投入。同时，还要求受访者评估对自己、对AI以及对自身评估AI输出能力的信心程度。
约36%的参与者表示，他们运用批判性思维技能来减轻使用AI可能带来的负面后果。例如，有参与者使用ChatGPT撰写绩效评估时，因担心内容不当导致停职而对输出进行了双重检查；另有受访者为避免在强调等级资历的企业文化中失礼，必须编辑AI生成的发给老板的邮件。此外，许多参与者还会通过YouTube和Wikipedia等资源进行广泛搜索以核实AI回答，这在一定程度上违背了最初使用AI提效的目的。
核心结论：对AI盲目自信会降低思维投入
为了弥补生成式AI的不足，员工需要了解这些不足的成因，但并非所有参与者都熟悉AI的局限性。
论文写道：“GenAI（生成式人工智能）响应潜在的下游危害可以激发批判性思维，但这仅当用户有意识地意识到这些危害时才会发生。”
事实上，研究发现，那些对AI有信心的人，比那些对自身能力有信心的人，在批判性思维上投入的努力更少。
虽然研究人员并未断言生成式AI工具会让人变笨，但该研究表明，过度依赖此类工具可能会削弱我们独立解决问题的能力。