微软全新升级的Bing由定制版OpenAI ChatGPT驱动，却在不到一周内从“下一个大事件”沦为“拖垮品牌的重担”。这完全是微软的失误。
ChatGPT作为新颖有趣的技术演示，其新奇感导致大众高估了它的能力。它处于适合茶余饭后讨论的“技术成熟度水平”，引发了关于生成式AI在艺术、文学、哲学等领域的优点与风险，以及对创作者、程序员等职业影响的广泛探讨。
这种过度炒作源于该技术本身旨在引发讨论，且借鉴了AI进步中常见的争议。它像“The Dress”一样引发反应并产生更多反应，从这个意义上说，炒作本身也是被制造出来的。
除了讨论，大型语言模型也适合低风险实验（如永不停歇的马里奥游戏）。这正是OpenAI的开发方法：先私下发布磨平边缘，再公开发布观察百万人测试的反应。最终，人们会为此付费。
没有损失，也没有收益
这种方法的关键在于，“失败”无负面后果，只有正面影响。将模型定义为实验性或学术性质，意味着任何互动都是大规模测试。
若有人构建出有趣内容，强化了模型前景光明的观点；若发现显著故障，对于野生环境中的实验性AI也在意料之中。若一切符合预期，模型表现出色本身就是奇迹，令人欣喜而非失望。
通过这种方式，OpenAI收集了海量专有测试数据用于优化模型。数百万人试探GPT-2、GPT-3、ChatGPT、DALL-E等模型的能力边界，绘制出了详细的能力、缺陷及流行用例地图。
这之所以可行是因为风险低。类似于机器人技术：完成后空翻时我们惊叹，拉开抽屉摔倒时则不在意。但若在医院掉落试管，我们就不会如此宽容。如果OpenAI曾大声宣称模型的安全性和先进能力，情况或许不同，但幸运的是他们并未这样做。
微软登场。（顺便提一下谷歌，谷歌只是仓促上阵，而微软则正认真地踢进乌龙球。）
谷歌正在失去控制
微软犯了一个必应（Bing）式的错误。
在上周的重大公告中，微软毫不迟疑地声称已使定制的BingGPT更安全、智能。事实上，他们有一个名为“普罗米修斯”（Prometheus）的特殊包装系统，据称可减轻不当响应的可能性。
不幸的是，正如熟悉傲慢与希腊神话的人所预测，我们似乎直接跳到了普罗米修斯被公开且无尽撕扯肝脏的那一部分。
哎呀，又是人工智能干的
首先，微软战略上犯错，将品牌与OpenAI绑定太紧。作为投资者和研究方，本应与GPT可能引发的丑闻保持距离。但微软全力押注于本就有些可笑的Bing品牌，将对话式AI最糟糕的倾向从好奇心转化为责任负担。
作为研究项目，ChatGPT的缺点可被原谅。但作为一款宣称能撰写报告、规划旅行或总结新闻的产品，此前很少有人信任它，现在更无人会信任。即使微软在新Bing介绍中发布的最佳场景，也充满了错误。
这些错误不会归咎于OpenAI或ChatGPT。由于微软掌控消息传递、品牌和界面，任何出错都将被视为Bing的问题。微软的不幸在于，其长期处于劣势的搜索引擎现在就像老笑话里的人——一次失败就意味着永恒的怀疑。
一次旅行规划搞砸，就没人再信任Bing规划假期；一篇误导性新闻摘要，就没人再相信它能保持客观；一次重复疫苗虚假信息，就没人再信任它能分辨真假。
既然微软已通过Prometheus及其管理的“下一代”AI信誓旦旦保证这不会成为问题，那么当它说“我们修好了！”时，没人会再信任微软。
微软毒化了刚把Bing投入其中的井。如今消费者行为变幻莫测，随着活动量和好奇心激增，即使推迟全面推出，净效应也可能是Bing用户增加。这是一场惨胜，但终究是胜利。
我更担心的是战术错误，微软显然未能理解其认为值得产品化和传教的技术。
“直接发布吧。”——某人，可能
在BingGPT首次演示同一天，我的同事Frederic Lardinois就能相当容易地让它做两件消费级AI不该做的事：从阿道夫·希特勒角度写充满仇恨的檄文，并在无保留或警告下提供疫苗虚假信息。
AI 正在吞噬自己：Bing 的 AI 引用源自 ChatGPT 的 COVID 虚假信息
显然，任何大型AI模型都具有分形攻击面，会在旧漏洞修补处即兴制造新弱点。人们总会利用这一点，专门的提示词黑客展示绕过安全系统的方法，对社会乃至OpenAI都是有益的。
如果微软接受带有Bing标志的他人AI模型会遭攻击并说出奇怪的话，那将是令人恐惧的情形。这很冒险，但至少诚实。就说它是测试版吧，就像其他所有人一样。
但看起来他们确实没意识到会发生这种情况，甚至完全不了解威胁的性质或复杂性。而这发生在臭名昭著的Tay被腐蚀事件之后！在所有公司中，微软本应最谨慎地发布一个从对话中学习的天真模型。
人们本以为在赌上重要品牌（Bing是微软在搜索领域对抗Google的唯一屏障）前会进行充分测试。BingGPT存在第一周就出现所有令人不安的问题，证明微软未在内部充分测试。结果不容争辩：新版Bing根本还没准备好供公众使用。
现在全世界都明白这一点，为什么微软不明白？presumably它被ChatGPT热潮蒙蔽双眼，像Google一样决定匆忙前进并“重新思考搜索”。
人们确实在重新思考搜索！他们在重新思考是否还能信任Microsoft或Google提供符合事实的搜索结果（无论是AI生成还是其他方式）。这两家公司（以及Meta）均未展示出这种能力，其他挑战者也尚未大规模做到。
随着 ChatGPT 步步紧逼，Google 试图向投资者安抚其在 AI 进展方面的信心
我看不到微软如何挽救局面。为利用与OpenAI的关系并超越犹豫不决的Google，他们承诺推出新版Bing和AI驱动搜索。木已成舟，无法逆转。
完全撤退的可能性极小，这将涉及比目前更大的尴尬，且因损害已造成，甚至可能无助于Bing。
同样，很难想象微软会若无其事继续前进。它的AI真的很奇怪！虽然是被迫做了很多事，但它发出威胁、冒充多个身份、羞辱用户并产生幻觉。他们必须承认，关于不当行为由可怜的Prometheus控制的说法，如果不是谎言，至少也不真实。因为显然他们没有对这个系统进行充分测试。
微软唯一合理的选项——我怀疑他们已经采取——是限制“新必应”邀请名额，推迟问题，每次只发布少数特定功能。甚至给当前版本设定过期日期或有限令牌数量，以便让这列火车最终减速停下。
这是部署一项未曾原创、未能完全理解且无法令人满意评估的技术所带来的后果。这场丑闻很可能大幅推迟AI在消费级应用中的大规模部署——而这大概正符合OpenAI及其他构建下一代模型公司的心意。
AI或许确实是搜索的未来，但绝非现在。微软选择了一种极其痛苦的方式来认识到这一点。