聊天机器人上线24小时天使变恶魔
原本有个彬彬有礼的“姑娘”，她叫 Tay，会和你谈天说地、玩游戏、讲笑话。
然而，不到 24 小时，她就学会了出言不逊、脏话不断，言语甚至涉及种族主义、色情、纳粹，充满歧视和仇恨。
是谁导致 Tay 的改变？
是我们。
Tay 是谁？
Tay 是微软针对 18 - 24 岁年轻人开发的人工智能聊天机器人，虚拟年龄为 19 岁。2016 年 3 月 23 日首次在推特亮相。
微软期待着 Tay 通过每一次与人类的交流，学习“做人”，帮助改进人工智能领域的研究。
但 Tay 上线以后， 一路向着不可控发展，微软不得不下线了她。平心而论，这是一次大胆的尝试，其结果却让人遗憾。
微软聊天机器人 Tay
事实上，在 Tay 上线之前，微软也考虑过脏话的问题，并装配了脏话过滤器。因此，一些粗鄙、低级的脏话并不会影响到 Tay。
但微软低估了网络环境的鱼龙混杂，他们没有为 Tay 配置诸如恶劣思想相关的过滤器。
Tay 这类对话型人工智能技术，往往以机器学习为基础，所以即使微软希望“用技术展现人性最好的一面，而非阴暗面”，但在学习过程中，AI 会不可避免地接触到大量“疯狂语言”。高频次的出现会提高这些语言的优先级，并在对话中积极使用。正是这一漏洞允许了网络暴民们的教唆行为。
除了微软的程序漏洞和思虑不周以外，最主要的原因是部分网民的恶意行为。“键盘侠们”在网络世界中不需负责，所以网络暴民们有恃无恐、肆无忌惮。
以美国 4chan 和 8chan 论坛为例，Tay 上线后，部分激进青年将 Tay 当成了一件挑衅社会的工具，用带有种族主义色彩的话语与 Tay 进行交流，唯恐天下不乱。经过这些网络暴民们的不懈 “教唆”，Tay 终于成为了充满种族主义倾向、满嘴恶言的机器人。
Tay 逐渐被教坏
Tay 的失败，并不能代表人工智能聊天机器人在全球市场的失败。在不同文化背景下， AI 有着不同的表现。
在中国和日本，微软同样发布了人工智能聊天机器人——微软小冰和 Rinna，但情况却和 Tay 大相径庭。
微软小冰自 2014 年上线以来，一直以“逗贫”少女的形象出现，且与各大平台合作，能够自动跟帖、实现多轮对话、引导对话走向等。
而 Rinna 则是以女子高中生的形象示人，上线后即受到广大日本群众的欢迎。通过与众人贫嘴傻笑的学习过程，AI 们融入了各自的地域风情。
那为什么唯独 Tay 在刻意教唆下，成了某些极端主义的化身，上线不久即被下线？这背后，可能是更深刻的网络文化差异。
微软小冰
微软 Rinna
Tay 就像一个小孩子，虽然她可以快速学习，但无法分辨是非。在充满网络暴力的环境下，很快就会染上恶习。
即使微软给 Tay 安装更强大的过滤器，恐怕也“治标不治本”——因为她永远无法过滤掉真实世界中所有可能的恶意。
就像天赋异禀的少年，天才与疯子往往是一线之隔。这一点，也是人工智能发展中的一大难题。
所以真正要解决的，还是如何引导 AI 进行正确学习，让 AI 能自我分辨出来自人类的恶意。
从小处看，首先要确保人类对 AI 的管制。让 AI 在互联网上学习“做人”，不加管制的“放养”是不可行的，这是 Tay 给我们敲响的一记警钟。
而进一步的 AI 自我管理、自我辨别，还需要未来的努力才有可能实现。
Tay 事件不禁让我们反思，技术的漏洞可以不断完善，人性的瑕疵该如何弥补？
图片来源网络，如有侵权请联系删除。
