非营利机构，包括领英创始人雷德•霍夫曼（Reid Hoffman)、Facebook董事会成员兼Palantir创始人彼得•泰尔（Peter Thiel)，还有最被国内熟悉的是特斯拉和SpaceX的老板伊隆•马斯克（Elon Musk)。
可能很多人还不知道OpenAI到底是啥，小编简单介绍一下OpenAI的来头：
2017年8月11日，OpenAI在Dota 2 的1对1的比赛上，击败了Dota 2的第一个战队和 Solo 双料世界冠军获得者，传奇中单Dendi，而在此前，OpenAI已经战胜了现役的 Arteezy、SumaiL等多个世界冠军级的 Solo 选手。（下图是被OpenAI击败后感觉难以相信的SumaiL）
可以说，相比DeepMind的AlphaGo横扫围棋顶尖选手这一壮举，OpenAI在Dota 2上的胜利有截然不同的意义，因为相比围棋这种完全信息静态博弈游戏（即双方都能获得局面的所有信息，下棋异步），电子竞技游戏具备非完全信息属性（双方只掌握视野里的部分信息），而且竞技过程是实时动态进行的。其规则和特征复杂度远超围棋，因此对人工智能的局面评估、决策能力要求显著更高。另外，相比围棋这种高度抽象的游戏（只有落子一个动作），电子竞技游戏性质上更类似人类现实世界对抗/战争的简化模拟，涉及了大量资源调配、部队构成选择、扩张策略、攻防对抗等复杂但具有现实意义的博弈，如能在电子竞技对抗中取得划时代的里程碑，则代表了人工智能迈向通用化又进了一大步。
介绍完OpenAI的牛逼之处后，小编有必要公布OpenAI提供的牛逼答案了：
——让AI辩论
在此之前，OpenAI的研究专家们已经证明，进行自我训练的人工智能系统有时会出人意料地培养出不良习惯。例如，在计算机游戏中，人工智能系统可能会发现如何依靠“漏洞”获得较高的分数。在某些情况下，人类还是有可能监管训练过程的。但如果人工智能项目过于复杂，人类监管就变得不切实际了。于是研究专家们建议，可以让两个人工智能系统讨论一个特定的目标。
“我们认为这种或者类似的方法可以最终帮助人类训练人工智能系统，从而实现认知上超出人类能力范围的更加高级的任务，同时又能与人类的倾向保持一致，”OpenAI的研究人员在一篇博客中概述了这一概念。
拿用于防御人类或人工智能黑客的人工智能系统来举例。为防止系统作出有害或有违伦理道德的事情，或许有必要让人工智能系统解释某个行为背后的逻辑。这个逻辑可能对人类来说太过复杂，难以理解，因此研究人员建议让另一个人工智能系统就行为背后的逻辑使用自然语言与第一个系统辩论，人类则在一旁观察。
要想让人工智能程序互相辩论，需要一种超越当下水平、更加复杂的技术。因此，截至目前，OpenAI的研究人员仅用了几个十分简单的例子来进行探索。其中一个项目是将一个字符隐藏起来，然后慢慢展示单个像素，让两个人工智能系统同时告诉观察者这是什么字符。
研究人员创建了一个网站，任何两个人都可以扮演辩论的人工智能系统，第三个人扮演裁判的角色。两位参与者通过突出图片的部分特征，互相竞争看谁能说服裁判图片中画的是什么。最终，观察者能更加轻松地判断出谁说的是真话。
杜克大学研究人工智能伦理问题的研究专家文森特•康尼泽（VincentConitzer)称，这项工作仍处在起步阶段，但却大有希望。“创建出能够解释自己决策的人工能系统是一项十分具有挑战性的研究任务，”他说道。“如果项目成功，可以让我们更负责地使用人工智能系统。”
以目前状况来说，尽管伊隆•马斯克（OpenAI的投资人，也是目前董事会成员之一）等人曾发出荒诞的言论，但要实现电影《机器姬》和《她》中的情景，让人工智能系统具备欺骗和赶超人类的能力，我们仍有很长的一段路要走。
尽管如此，一些人工智能研究者还是在探索各种方式，以确保人工智能技术不会偏离人类的预想。随着人工智能项目变得越来越复杂，越来越不好懂，这种探索可能会变得更加重要。
“我认为通过辩论的方式让价值一致是一件很有趣也很有用的事情，”卡内基梅隆大学研究自动化系统决策制定的计算机科学教授阿里尔•普罗卡萨（ArielProcaccia)说道。
但普罗卡萨指出，目前该项研究还是比较初级，甚至概念本身可能本质上也是自相矛盾的。“为了用人类裁判能够理解的方式辩论价值观问题，人工智能主体或许首先需要扎实地了解人类价值观，”他说道。“因此可以说这个方法是本末倒置的。”
麻省理工媒体实验室研究专家伊亚德•拉万(lyad Rawan)补充道，研究人员需要注意不要让两个人工智能系统陷入循环辩论。“我的确觉得人工智能系统很快就会遇到一些十分棘手的问题，”他说道。“第一个问题就是如何用自然语言实现自动化辩论，这仍是一个未解决的难题。”
「 本文仅代表作者个人观点 」
扫码关注，更多精彩！
