大数跨境

AI能让社交媒体少一些毒性吗?一项聊天机器人研究展现出希望

AI能让社交媒体少一些毒性吗?一项聊天机器人研究展现出希望 搜索引擎报
2023-11-14
0
导读:AI能否帮助促进更健康的社交媒体互动?研究人员在研究了500个聊天机器人的互动后发现了什么。

人工智能(AI)或为缓解社交媒体上的有毒言论与两极分化提供新解法。阿姆斯特丹大学Petter Törnberg教授团队最新研究表明,通过优化社交网络内容展示机制,可有效减少党派分歧并促进积极互动。

研究概况:基于AI代理的模拟实验

该研究利用ChatGPT 3.5构建了500个具备独特政治立场及人口统计特征(如年龄、性别、收入、宗教等)的聊天机器人。这些AI代理在模拟Twitter/X环境中阅读真实新闻并进行互动,旨在探索如何在避免伦理风险的前提下促进群体团结。

三种算法模型对比测试

研究人员设定了2020年7月的模拟场景,涉及新冠疫情及“黑人的命也是命”抗议等议题,并设计了三种不同的信息流推荐模型:

  1. 回声室模型:仅向用户展示观点相似的内容;
  2. 发现模型:优先推荐高参与度内容,而非基于信念匹配;
  3. 桥梁模型:重点突出被对立党派点赞的帖子,以优化跨群体互动。

实验结果:跨党派互动降低毒性

在为期6小时的模拟中,“桥梁模型”表现最优。机器人在乡村音乐中的LGBTQ+权利等跨界议题上找到共同点时,表现出更高的幸福感。相比极化严重的回声室环境,该模型显著增加了跨党派互动,减少了有毒交流。

Törnberg指出,当用户在跨越党派分歧的议题上进行互动时,党派身份认同不会被过度激活,从而有效降低两极分化。这证明社交媒体平台可通过算法设计促进良性参与,但AI代理对人类行为的模拟保真度仍需进一步验证。

潜在伦理挑战与数据规范

随着AI代理拟人化程度提升,其训练数据的隐私与伦理问题日益凸显。若使用用户的私人帖子、浏览历史或机密记录进行训练,可能引发知情同意争议。业界亟需制定相关数据使用指南,确保数字孪生技术反映人性美好的一面,而非加剧社会撕裂。

【声明】内容源于网络
0
0
搜索引擎报
搜索引擎时报
内容 2933
粉丝 0
搜索引擎报 搜索引擎时报
总阅读3.4k
粉丝0
内容2.9k