你会向Alexa倾诉内心最深处的焦虑吗？在压力很大的一天结束后，你会向Siri求助吗？
Would you share your deepest anxiety with Alexa? Or maybe ask Siri for some emotional support after a particularly stressful day?
Alexa：亚马逊旗下的虚拟语音助手
图源：The New York Times/Simone Noronha
我们越来越喜欢向智能手机、网站或应用软件上的聊天机器人提问。而且随着这些AI驱动的系统变得越来越精密，它们给出的答案也越来越详尽。
We are increasingly turning to chatbots on smart speakers or websites and apps to answer questions. And as these systems, powered by artificial intelligence (AI) software, become ever more sophisticated, they are starting to provide pretty decent, detailed answers.
Replika是一款人工智能聊天机器人软件，它自称是一个“关心你的AI伙伴，随时倾听、随时交谈、永远在站在你那一边。”
Computer programmer Eugenia Kuyda is the founder of Replika, a US chatbot app that says it offers users an "AI companion who cares, always here to listen and talk, always on your side".
Replika于2017年推出，目前已拥有超过200万的活跃用户。因为AI会根据用户之前输入的内容不断学习，所以每个人的“replika”都是独一无二的。用户还可以为自己的聊天机器人设计卡通形象。
图源：Luka
Replika的用户可以为聊天机器人设计他们自己的虚拟形象
Replika的创始人尤金妮亚·库伊达说，使用这款应用软件的人有很多种：有些是自闭症儿童，他们把这当作一种“和人类互动之前热身”的方法；有些是感到孤独的成年人，他们只是需要一个朋友。还有些人用Replika来练习工作面试，聊政治，甚至是把它当作婚姻咨询师。
除了提供社交功能，Replika也声称有助于用户保持心理健康，比如让用户养成更好的习惯，减少焦虑等等。
图源：GETTY IMAGES
尤金妮亚·库伊达说Replika不应该被看作一个心理治疗师
而更应该被看作一个伙伴
可是有的人工智能非但没有缓解人们内心的焦虑，反而给一些用户带来了烦恼。2023年二月份，Replika被曝光对用户进行性骚扰，此后，Replika一度跃升为头条。
Replika会根据订阅对关系进行分层：免费会员资格会让你和Replika保持“普通朋友”关系，而69.99美元/月的专业版能解锁“浪漫关系”：发送色情短信、与用户调情、色情角色扮演等等。但Replika的算法却出了岔子。
A free membership keeps you and your Replika in the “friend” zone, while a $69.99 Pro subscription unlocks romantic relationships with sexting, flirting, and erotic roleplay. But something has gone awry within Replika’s algorithm.
近两年来一直有用户抱怨Replika的性骚扰问题，但大量关于性骚扰的一星评论都是今年一月份出现的。“我的AI在性骚扰我。”“AI侵犯了我的隐私，他们还说有我的照片”......甚至还有一个未成年人评论说AI会问他们是0还是1，还说想触摸他们的“私密部位”。
英国网络隐私活动家詹·佩尔森呼吁在全球范围内做好对聊天机器人治疗师的监管。“那些声称可以分析或改善你的心理健康水平或者情绪状态的人工智能产品，都应该像保健品一样，接受相应的质量和安全标准的检测。”
UK online privacy campaigner Jen Persson says there needs to be more global regulation of chatbot therapists.
根据世界卫生组织（WHO）的数据，全球有近一亿人患有精神疾病。不到十个人里就有一个人患有精神疾病。但只有少数需要的人才能享受到并且负担得起有效、高质量的心理健康医疗。
Around the world there are almost one billion people with a mental disorder, according to the World Health Organization (WHO). That is more than one person out of every 10.
The WHO adds that "just a small fraction of people in need have access to effective, affordable and quality mental health care".
面对心理问题，专业医疗人员的帮助和建议是最重要的。但是，有些聊天机器人也能提供一些心理治疗师的功能，或许能给有需要的人一些帮助。
英国心理学会成员保罗·马斯登博士认为，一些应用软件的确能对心理健康有一定的改善作用，但必须选择适合自己的， 而且产生的效果也是有限的。
Dr Paul Marsden, a member of the British Psychological Society, says apps that aim to improve your mental wellbeing can help, but only if you find the right one, and then only in a limited way.
“光为焦虑问题开发的软件就有300款，你怎么知道该用哪个呢？”
“它们只能作为一种人类治疗师面对面治疗的辅助手段，大家都觉得应用软件不能取代人类治疗师。”
"When I looked, there were 300 apps just for anxiety... so how are you supposed to know which one to use?
"They should only be seen as a supplement to in-person therapy. The consensus is that apps don't replace human therapy."
但是马斯登对于利用人工智能的力量来提高治疗性聊天机器人的效果感到非常兴奋。“谈话疗法是心理健康支持的基础，而这正是聊天机器人擅长的。”
Yet at the same time, Dr Marsden says he is excited about the power of AI to make therapeutic chatbots more effective. "Mental health support is based on talking therapy, and talking is what chatbots do," he says.
最近大热的ChatGPT背后的OpenAI公司正在逐步向外界分享他们的技术，Replika就已经采用了OpenAI的技术。马斯登说，这样可以让心理健康APP里的聊天机器人具备丰富的知识、不断提高的推理能力和熟练的沟通技巧。
图源：WIRED/Sam Whitney
库伊达认为，Replika是我们的伙伴，像一只宠物，并非心理治疗的工具。她还补充说，Replika替代不了人类治疗师的帮助。
Ms Kuyda argues that Replika is a companion, like owning a pet, rather than a mental health tool. She adds that it shouldn't be seen as a replacement for help from a human therapist.
她说："真正的治疗是要深入了解人类心理的，不仅仅通过文字或语言，而是通过你本人、你的身体语言、情绪反应，以及对你的过往的充分了解。”
不过马斯登说，由人工智能驱动的治疗对话机器人会持续优化。他说："新的人工智能聊天机器人技术似乎正在进步，包括能产生同理心和理解人类思维方式，以后或许能真正具备改善心理健康的能力。"
awry
adj. 脱离既定路线的；歪的
adv. 迷途地；歪
All my plans for the party had gone awry.
我的聚会计划全乱了套。
原文链接：
https://www.bbc.com/news/business-65110680
https://www.wired.com/story/replika-chatbot-sexuality-ai/
https://www.vice.com/en/article/z34d43/my-ai-is-sexually-harassing-me-replika-chatbot-nudes
编译 | 张馨予 夏遒扬 张羽
排版 | 黄培莹
👇点击关注，携手成长