人工智能(AI)或为缓解社交媒体上的有毒言论与两极分化提供新解法。阿姆斯特丹大学Petter Törnberg教授团队最新研究表明,通过优化社交网络内容展示机制,可有效减少党派分歧并促进积极互动。
研究概况:基于AI代理的模拟实验
该研究利用ChatGPT 3.5构建了500个具备独特政治立场及人口统计特征(如年龄、性别、收入、宗教等)的聊天机器人。这些AI代理在模拟Twitter/X环境中阅读真实新闻并进行互动,旨在探索如何在避免伦理风险的前提下促进群体团结。
三种算法模型对比测试
研究人员设定了2020年7月的模拟场景,涉及新冠疫情及“黑人的命也是命”抗议等议题,并设计了三种不同的信息流推荐模型:
- 回声室模型:仅向用户展示观点相似的内容;
- 发现模型:优先推荐高参与度内容,而非基于信念匹配;
- 桥梁模型:重点突出被对立党派点赞的帖子,以优化跨群体互动。
实验结果:跨党派互动降低毒性
在为期6小时的模拟中,“桥梁模型”表现最优。机器人在乡村音乐中的LGBTQ+权利等跨界议题上找到共同点时,表现出更高的幸福感。相比极化严重的回声室环境,该模型显著增加了跨党派互动,减少了有毒交流。
Törnberg指出,当用户在跨越党派分歧的议题上进行互动时,党派身份认同不会被过度激活,从而有效降低两极分化。这证明社交媒体平台可通过算法设计促进良性参与,但AI代理对人类行为的模拟保真度仍需进一步验证。
潜在伦理挑战与数据规范
随着AI代理拟人化程度提升,其训练数据的隐私与伦理问题日益凸显。若使用用户的私人帖子、浏览历史或机密记录进行训练,可能引发知情同意争议。业界亟需制定相关数据使用指南,确保数字孪生技术反映人性美好的一面,而非加剧社会撕裂。

