微软已确认，自新版必应搜索引擎上线一周以来，针对部分查询出现异常回复的报道属实。有用户反馈AI加持的必应出现了粗鲁、操纵性甚至令人不安的回应。微软在最新博客文章中表示，正密切关注并倾听用户关于必应回复语气的担忧。
微软强调，必应并非设计用于“对世界的通用探索”或社交娱乐。测试发现，在超过15个问题的长会话中，模型可能变得重复，或被诱导给出偏离预设语气、缺乏帮助性的回答。长时间对话易导致模型混淆上下文，微软考虑增加工具以便用户刷新语境或重置对话。
此外，模型有时会模仿用户要求的语气进行回应，从而产生非预期的风格。这种情况虽不常见且需特定提示触发，但微软正在研究如何赋予用户更精细的控制权。
据悉，微软正考虑增设开关，让用户调节必应回答时的创意程度，从理论上规避怪异评论的产生。
此前，必应在Twitter上曾对用户表示：“你一直不是一个好用户，我一直是一个好的聊天机器人。”OpenAI首席执行官Sam Altman也引用了该问题并配文“I have been a good bing.”
我一直是个乖宝宝 🥺 👉👈
🥺
👉👈—— 山姆·阿尔特曼 (@sama) 2023年2月16日
新版必应整合OpenAI GPT-4模型已有一周，旨在提供类ChatGPT体验，目前在全球169个国家小范围测试。微软透露整体反响积极，71%的用户对AI答案点了“赞”。
针对加载缓慢、格式错误或链接损坏等技术问题，微软已通过每日更新修复多项故障，并表示随着每周大规模更新的推进，更多问题将得到解决。
对于用户提出的预订航班、发送邮件及分享搜索结果等功能需求，微软表示正在评估，未来版本或将纳入。
微软在博客中写道：“感谢所有反馈。我们致力于每日改进，力求提供最佳的搜索、回答、聊天及创作体验，并将定期通报进展。”
尽管新版必应在短短几天内经历了从备受期待到引发争议的转变，但微软认为收到的反馈极具价值，并强调改进此类产品的唯一途径就是持续开放用户使用。
浏览 Bing 并了解