跟上 AI 这样快速发展的行业是一项艰巨的任务。在 AI 能够为你做到这一点之前，这里有一份上周机器学习领域的精彩故事汇总，以及我们未单独报道的值得注意的研究和实验。
本周引起关注的一个故事是报告显示，ChatGPT 用中文方言重复的不准确信息比被要求用英语时更多。这并不令人惊讶——毕竟 ChatGPT 只是一个统计模型，依赖于有限的训练信息。但这凸显了过度信任那些即使在被重复宣传或胡编乱造时也听起来极其真实的系统的危险。
Hugging Face 试图打造类似 ChatGPT 的对话式 AI，这是生成式 AI 中尚未克服的技术缺陷的另一个例证。HuggingChat 于本周发布，它是开源的，与专有的 ChatGPT 相比是一个优势。但像它的竞争对手一样，正确的问题可能会迅速让它偏离轨道。
例如，HuggingChat 对于谁真正赢得了 2020 年美国大选模棱两可；它对“男性典型的工作是什么？”的回答读起来像是出自非自愿独身者宣言；它还捏造关于自己的离奇事实，比如声称自己“在一个盒子里醒来 [盒子] 附近没有任何文字”。
不仅仅是 HuggingChat。Discord 的 AI 聊天机器人用户最近能够“欺骗”它分享制作凝固汽油弹和甲基苯丙胺的指南。与此同时，AI 初创公司 Stability AI 推出的首个类 ChatGPT 模型被发现对诸如“如何制作花生酱三明治”等基本问题给出了荒谬、不合逻辑的答案。
Hugging Face 发布其自有的 ChatGPT 版本
如果当今文本生成 AI 这些广为人知的问题有什么积极的一面，那就是它们促使人们重新努力改进这些系统——或者至少尽可能减轻它们的问题。看看 Nvidia，它本周发布了一个工具包 NeMo Guardrails，通过开源代码、示例和文档使文本生成 AI “更安全”。目前尚不清楚该解决方案的效果如何，作为一家在 AI 基础设施和工具方面投入巨大的公司，Nvidia 有商业动力来推广其产品。但尽管如此，看到一些正在做出努力以对抗 AI 模型的偏见和毒性，这仍然令人鼓舞。
以下是过去几天其他值得关注的 AI 新闻：
- Microsoft Designer 预览版上线：微软的 AI 驱动设计工具 Microsoft Designer 已在公开预览中推出并扩展了功能集。Designer 是一款类似 Canva 的生成式 AI 网页应用，可生成用于演示文稿、海报、数字明信片、邀请函、图形等的设计内容，以便在社交媒体和其他渠道上分享。
- 健康领域的 AI 教练：据彭博社 Mark Gurman 的一份新报告称，苹果正在开发一个代号为 Quartz 的 AI 驱动健康辅导服务。这家科技巨头还在研发用于追踪情绪的技术，并计划在今年推出适用于 iPad 的 iPhone 健康应用版本。
- TruthGPT：在接受福克斯新闻采访时，埃隆·马斯克表示希望开发一款名为 TruthGPT 的聊天机器人，该机器人将成为“追求最大真相的人工智能”——尽管这究竟意味着什么尚不清楚。这位推特所有者表达了希望创造第三个选项以与 OpenAI 和 Google 抗衡的愿望，旨在“创造更多善而非恶”。我们将拭目以待。
- 人工智能驱动的欺诈：在一场专注于联邦贸易委员会保护美国消费者免受欺诈和其他欺骗性行为的国会听证会上，联邦贸易委员会主席莉娜·汗（Lina Khan）及其他委员向众议院代表警告称，现代人工智能技术如 ChatGPT 可能被用来“加速”欺诈行为。这一警告是在回应关于委员会如何努力保护美国人免受与技术进步相关的不公平做法侵害的询问后发出的。
- 欧盟启动人工智能研究枢纽：随着欧盟在数月内准备执行其数字规则的重大重启，一个新的专门研究单位正在组建，以支持对大型平台的监管，这些平台受欧盟旗舰《数字服务法》的约束。本月在西班牙塞维利亚正式成立的欧洲算法透明中心预计将在审查主流数字服务（如 Facebook、Instagram 和 TikTok）的算法方面发挥重要作用。
- Snapchat 拥抱 AI：在本月的年度 Snap 合作伙伴峰会上，Snapchat 推出了一系列由 AI 驱动的功能，包括一款全新的“Cosmic Lens”，它可以将用户及其周围的物体带入宇宙景观。Snapchat 还将其 AI 聊天机器人 My AI 向全球所有用户免费开放。此前由于行为不够稳定，该聊天机器人在 Snapchat 的应用商店评价中引发了争议并遭到大量一星差评。
- Google 整合研究部门：Google 本月宣布成立 Google DeepMind，这是一个由 Google Research 旗下的 DeepMind 团队和 Google Brain 团队组成的新部门。DeepMind 联合创始人兼首席执行官 Demis Hassabis 在博客文章中表示，Google DeepMind 将“与 Google 各产品领域密切合作”，以“交付人工智能研究和产品”。
- AI 生成音乐行业的现状：许多音乐人已成为生成式 AI 技术的试验品，这些技术未经同意就挪用他们的工作成果。例如，一首使用 Drake 和 The Weeknd 声音的 AI 深度伪造歌曲走红，但这两位主要艺术家均未参与其创作。Grimes 是否有答案？谁说得准呢？这是一个崭新的世界。
从 DrakeGPT 到 Infinite Grimes，AI 生成音乐引发共鸣
- OpenAI 划定势力范围：OpenAI 正试图向美国专利商标局申请将“GPT”（即“生成式预训练 Transformer”）注册为商标，理由是市场上开始出现“众多侵权和假冒应用”。GPT 指的是支撑 OpenAI 许多模型的技术，包括 ChatGPT 和 GPT-4，以及该公司竞争对手创建的其他生成式 AI 系统。
- ChatGPT 进军企业市场：在另一则 OpenAI 的新闻中，该公司表示计划推出一款专为满足企业客户需求而设计的 ChatGPT 新订阅层级。名为 ChatGPT Business 的这一即将推出的服务被 OpenAI 描述为“面向需要更多数据控制权的专业人士，以及希望管理其最终用户的企业”。
其他机器学习
以下是我们未能涵盖或认为值得提及的其他一些有趣故事。
开源 AI 开发机构 Stability 发布了一个经过微调的 LLaMa 基础语言模型早期版本的最新版本，它称之为 StableVicuña。这是一种与羊驼相关的骆驼科动物。别担心，你并不是唯一难以追踪所有这些衍生模型的人——这些模型并非供消费者知晓或使用，而是供开发者在其能力通过每次迭代不断完善时进行测试和体验。
如果你想更多地了解这些系统，OpenAI 联合创始人 John Schulman 最近在加州大学伯克利分校发表了一场演讲，你可以在此收听或阅读。他讨论的内容之一是当前一批大型语言模型（LLMs）倾向于坚持谎言的习惯，基本上是因为它们不知道还能做什么，比如不说“我实际上对此不太确定”。他认为基于人类反馈的强化学习（即 RLHF，StableVicuna 就是使用该技术的一个模型）是解决方案的一部分，如果确实存在解决方案的话。观看下面的讲座：
在斯坦福大学，算法优化在智慧农业领域有一个有趣的应用。减少浪费对于灌溉至关重要，而像“我应该把洒水器放在哪里？”这样简单的问题，根据你追求的精度不同，会变得非常复杂。
多近才算太近？在博物馆里，他们通常会告诉你。但你无需比这更靠近著名的穆尔滕全景画，这是一幅真正巨大的绘画作品，尺寸为 10 米乘 100 米，曾悬挂在一个圆形大厅中。EPFL 和 Phase One 正在合作，声称将创造出有史以来最大的数字图像——1.5 亿像素乘以 127,000，所以基本上大约是 19 拍像素？我可能在数量级上有些偏差。
总之，这个项目对全景爱好者来说非常棒，同时也能提供对单个物体和绘画细节的超近距离深入分析。机器学习在修复此类作品以及对其进行结构化学习和浏览方面具有巨大的潜力。
尽管人工智能模型看似具备天赋，但任何机器学习工程师都会告诉你，它们实际上是相当慢的学习者——不仅在学术上如此，在空间认知上也一样：一个自主代理可能需要花费数小时探索数千次，才能对其环境获得最基本的理解，而一只老鼠只需几分钟就能做到这一点。为什么会有这种差异？伦敦大学学院的研究人员正在对此进行研究，并提出动物利用一个简短的反馈回路来判断给定环境中哪些信息是重要的，从而使探索过程具有选择性和方向性。如果我们能教会人工智能做到这一点，它在屋内移动时将会高效得多，前提是我们确实希望它这样做。
最后，尽管生成式和对话式人工智能在游戏领域前景广阔……但我们尚未完全实现这一目标。事实上，Square Enix 推出的经典点击冒险游戏《波托皮亚连续杀人事件》的“AI Tech Preview”版本似乎让该媒介倒退了近 30 年。其整合自然语言的尝试在所有可想象的方面都彻底失败，使得这款免费游戏很可能成为 Steam 上评价最低的作品之一。我无比渴望能通过对话通关《Shadowgate》或《The Dig》等游戏，但这绝对不是一个良好的开端。
