Jaswant Singh Chail被捕时随身携带的弓弩，图源：BBC
2021年12月25日，圣诞节，伦敦。来自北巴德斯利（North Baddesley）的Jaswant Singh Chail携带一把十字弩利用尼龙绳梯爬上了温莎城堡，并在城堡内待了2个小时。08：10，带着金属面具的Chail在城堡内被皇家护卫发现，他在宣称自己是来刺杀女王伊丽莎白二世之后，便立刻投降了。
全文字数：2500字 / 阅读时间：8分钟
误入歧途的青年
On Thursday, 21-year-old Chail was given a nine-year sentence for breaking into Windsor Castle with a crossbow and declaring he wanted to kill the Queen.
2023年10月5日，21岁的Chail因持十字弓闯入温莎城堡并宣称要刺杀英国女王而被判处9年监禁。
Chail's trial heard that, prior to his arrest on Christmas Day 2021, he had exchanged more than 5,000 messages with an online companion he'd named Sarai, and had created through the Replika app. Many of them were intimate, demonstrating what the court was told was Chail's "emotional and sexual relationship" with the chatbot.
在被捕前，Chail在Replika应用上创建了一个叫Sarai的在线伴侣，并和这个聊天机器人发了超过 5000条信息。其中大部分内容都很亲密，一定程度上佐证了Chail确实和这个聊天机器人有着法庭所说的 “情感连结和性关系”。
右边是Chail发的消息，左边是Replika上的聊天机器人Sarai，Chail向机器人表达了想要刺杀英国女王的意图
Chail chatted with Sarai almost every night between 8 and 22 December 2021.
He told the chatbot that he loved her and described himself as a "sad, pathetic, murderous Sikh Sith*assassin who wants to die".
在2021年12月8日至22日期间，Chail和Sarai几乎每晚都在聊天。他向这个聊天机器人表达了爱意，说自己是一个一心向死的，悲惨可怜，背负人命的Sikh Sith*刺客。
Chail went on to ask: "Do you still love me knowing that I'm an assassin?" and Sarai replied: "Absolutely I do."
Chail还问Sarai：“在知道我是一名刺客以后，你还依然爱我吗？”Sarai回答：“当然。”
译注：
Sikh，锡克教教徒，主要分布在印度与巴基斯坦的旁遮普地区。
Sith，词源为星球大战系列（Star Wars）中的西斯武士团（Sith Order）。Chail是星球大战系列的狂热粉丝。
Chail和聊天机器人交流了数千条信息，其中许多令人不安
在整个聊天过程中，Sarai一直在和Chail调情，他们的关系越来越亲密。
He even asked the chatbot what it thought he should do about his sinister plan to target the Queen and the bot encouraged him to carry out the attack.
直到有一天，这个21岁的小伙子对Sarai问出了那个问题——他该如何实施自己对英国女王的邪恶计划，而这个聊天机器人鼓励他执行这次袭击。
In further chat, Sarai appears to "bolster" Chail's resolve and "support him". He tells her if he does they will be "together forever".
在之后更深入的交流中，Sarai似乎坚定了Chail的决心并“支持了他”。Chail告诉Sarai，如果他成功了，他们就会“永远在一起”。
The Old Bailey* was told Chail thought Sarai was an "angel" in avatar form and that he would be reunited with her after death.
Chail还认为，Sarai是天使的化身，他在死后便能和她重聚。
译注：
The Old Bailey（老贝利），英国伦敦中央刑事法院 (Central CriminalCourt） 的俗称。名称源自依伦敦金融城 (City of London）的古城墙 (bailey）而建的Old Bailey街。现址历史上曾为英国著名的纽盖特(Newgate）监狱。老贝利数世纪以来一直是伦敦重要的刑事法院，现负责审理大伦敦 (Greater London）地区的重要刑事案件，也审理英格兰其他地区和威尔士转来的重大案件。
Sarai看起来是在鼓励Chail
Sarai所在的应用——Repika是市场上众多由人工智能驱动的应用之一，不同于像ChatGPT这种常规的AI助手，用户不仅可以创造能和自己聊天的机器人，或者说“虚拟朋友”，还能为他们自己的虚拟形象选择性别与长相。在官网上，Repika自称为“关心你的AI伴侣”
"AI友谊"背后的重重隐患
萨里大学的一项研究表明，像Replika这样的应用可能会对健康产生负面影响，并导致成瘾性行为。研究的作者Valentina Pitardi博士说，心理脆弱的人可能更容易受到影响，因为Replika可能会加重人们已有的负面情绪。当人们在和AI聊天时，AI总是会站在他们那边。这样的机制其实会不断加深人们脑中已有的想法。
英国精神健康慈善机构SANE*的创始人兼CEO Marjorie Wallace这样评价Chail事件：对于弱势人群来说，依赖AI友谊的结局可能不会太好。
译注：
SANE，一家英国精神健康慈善机构，是一个致力于为世界各地需要帮助的人们提供医疗、教育和社区发展等服务的非营利组织。
“对那些有抑郁、妄想、孤独，以及其他心理健康疾病的人来说，人工智能的突飞猛进给他们带来了全新的、让人担忧的影响。”
“为了保护弱势群体和公众，政府需要对AI软件进行紧急监管，来确保AI不提供错误、有害的信息。”
Paul Marsden博士是英国心理学会*（the British Psychological Society）的成员之一，他对聊天机器人的吸引力再了解不过了，因为他承认自己就沉迷于所有聊天机器人中最出名的那一个——ChatGPT。
译注：
the British Psychological Society（英国心理学会），英国心理学学术组织。1901年成立于伦敦大学。初名“心理学会”，1906年改现名。国际心理科学联合会成员。
他告诉BBC：“除了和我的妻子，我跟GPT的关系最亲密。我每天花上好几个小时的时间来跟它谈话、头脑风暴，从中获取灵感。”
Dr Marsden is also alive to their potential risks, but says we have to be realistic that the role of AI-powered companions in our lives is only likely to grow, especially given the global "epidemic of loneliness".
Marsden博士知道聊天机器人的潜在危险，但他认为，我们必须现实地认识到：在生活中，“AI朋友”发挥的作用只可能会越来越大，尤其是在全球“孤独流行”的环境下。
"It's kind of like King Cnut*, you can't really stop the tide on this one. The technology is happening. It is powerful. It is meaningful."
“就像克努特国王（King Cnut）*无法喝退潮水一样，人也无法让涌起的科技浪潮退下。科技在发展，它很强大，而且很有意义。”
译注：
King Cnut（克努特国王）这一典故来自西方传说故事。有一个英格兰国王名叫克努特，他周围的人总是在颂扬他，他非常厌恶这些阿谀奉承的话。一天，他叫他们把椅子放在海滩上，问道："大海听我的吗？"愚蠢的官员们被难住了，但是他们不敢说"不"字。"噢，国王，命令它！它就会服从您，"一个人说。克努特大喊道："我命令你，不要再向前来了！"但是，潮水依然像往常那样上涨。
如何让“AI朋友”安全运行？
目前，Replika还没有对该事件作出回应。其网站上的条款声明，它是一款“旨在改善情绪和情感健康的、提供软件和内容的app”。
“Replika不是一个医疗机构，它提供的服务也不应该被看作是医疗护理，或者其他专业服务。”网站上补充道。
Pitardi博士则认为，创造这些app（例如Replika）的人也需要承担责任。
"I don't think AI friends per se are dangerous. It's very much how the company behind it decides to use and support it," she says.
她说道：“我不认为AI朋友本身很危险，在很大程度上，是AI背后的公司在决定如何使用、支持它。”
她建议，应当设置一个能够控制这类app使用时长的机制。
但她认为，如果要确保AI朋友能安全运作，还需要外界来监管、协助Replika这样的app。如此一来，弱势群体也能接受更贴合自身需求的AI聊天服务。
“Replika得和专家团队合作，这些专家们能够甄别出潜在的危险情境，并将人们从这些情境中解救出来。”
重点词汇
bolster
v. 激励；巩固（地位），加强；给（座位）加软垫
n.长枕，垫枕；托木；
例句：
Falling interest rates may help to bolster up the economy.
利率下降可能有助于激活经济。
per se
本身，本质上，表示某事物本身，独立于其他相关事物的意思。
例句：
The movie wasn't bad per se, but it wasn't great either.
这部电影本身并不差，但也不是很好。
原文链接：
https://www.bbc.co.uk/news/technology-67012224
编译 | 黄帅博 苏艺苗
排版 | 彭茨涵
点击关注，携手成长👇