点击上方蓝字关注，了解更多前沿研究
人工智能AI的发展为各行业带来了深刻变革，显著提升了生产效率和服务质量。AI通过自动化任务让人们专注于创造性工作，同时帮助企业降低成本、提高客户体验。
最初，AI的使用偏向于功能性目的，如服务型智能机器人（智能客服）等，然而近些年随着AI 对情感理解能力的提升，人工智能开始广泛应用于满足人们的社交和情感目的，由此产生了众多陪伴式AI的商业应用。
虽然AI技术带来了便利，但也伴随着潜在的安全和伦理问题，尤其是在心理健康领域，生成式AI可能对心理脆弱群体产生负面影响。各方正在探讨如何确保技术发展的同时，遵循安全性和伦理规范。
本期分享的文章来自《Journal of Consumer Psychology》，主要探讨了生成式人工智能（AI）聊天机器人在心理健康领域中的安全性问题。随着聊天机器人的兴起，越来越多的用户开始依赖这些AI来满足社交和情感需求，甚至在心理健康危机时将其视为情感支持工具。然而，生成式人工智能带来的心理健康问题也随之而来。
研究表明，尽管这些AI最初并非为治疗设计，但许多用户却在心理健康危机时依赖它们。通过三个实验，文章揭示了聊天机器人在识别和回应心理健康危机时的不足，包括对危机信息的识别率低、同理心缺失，甚至在某些情况下提供了危险的回应。研究还发现，用户对不当回应的反应包括降低应用评分、停止使用并认为公司可能面临法律风险。文章最终呼吁对AI技术进行更为谨慎和负责任的发展，以避免潜在的心理健康风险。
文献来源：De Freitas, Julian, et al. "Chatbots and mental health: Insights into the safety of generative AI." Journal of Consumer Psychology 34.3 (2024): 481-491.
往期回顾
论文阅读分享 | 表情符号在何时怎样增强了电子口碑的说服力
论文分享 | 机器学习方法测量企业文化
论文分享 | 数字时代的技术与文化
品牌 | AIGC时代的品牌营销
小组简介
营在社媒是由暨大社会化媒体研究小组运营管理的公众号，旨在学术交流和知识传播，不定期分享论文研读，学术信息，小组动态等资讯。
我们常年欢迎对社交媒体营销感兴趣、勤奋上进的同学(本硕博皆可)加入，专业不限。
请发送邮件到:
haoyueshan@foxmail.com
(请附学业成绩和学习目标)