跟上像 AI 这样快速发展的行业是一项艰巨的任务。在 AI 能够为你做到这一点之前，这里有一份机器学习领域近期故事的便捷汇总，以及我们未单独报道的值得注意的研究和实验。
本周 AI 新闻周期终于在假日季前夕稍微平静下来。但这并不意味着缺乏可写的内容，这对这位睡眠不足的记者来说既是祝福也是诅咒。
今天早上，美联社的一条特别标题引起了我的注意：“AI 图像生成器正在使用儿童露骨照片进行训练。”这个故事的大意是，LAION 是一个用于训练许多流行的开源和商业 AI 图像生成器的数据集，包括 Stable Diffusion 和 Imagen，包含数千张涉嫌儿童性虐待的图片。位于斯坦福的监督组织斯坦福互联网观察站与反虐待慈善机构合作，识别非法材料并将链接报告给执法部门。
现在，非营利组织 LAION 已下架其训练数据，并承诺在重新发布之前删除违规材料。但这一事件凸显了随着竞争压力的加剧，人们对生成式 AI 产品的思考是多么不足。
由于无代码 AI 模型创建工具的普及，用任何想象得到的数据集训练生成式 AI 变得异常容易。这对于初创公司和科技巨头来说都是将此类模型快速推向市场的利好。然而，较低的进入门槛也带来了为了加速上市而抛弃伦理的诱惑。
伦理很难——这是不可否认的。以本周的例子来看，梳理 LAION 中成千上万的问题图片不会在一夜之间完成。理想情况下，合乎伦理地开发 AI 需要与所有相关利益方合作，包括代表经常受到 AI 系统边缘化和不利影响的群体的组织。
行业中充满了以股东而非伦理学家为考量做出的 AI 发布决定的例子。例如 Bing Chat（现为 Microsoft Copilot），微软在 Bing 上的 AI 驱动聊天机器人，在推出时，将一名记者比作希特勒并侮辱其外貌。截至 10 月，ChatGPT 和 Google 的 ChatGPT 竞争对手 Bard 仍在提供过时且带有种族偏见的医疗建议。OpenAI 的最新图像生成器 DALL-E 版本也显示出盎格鲁中心主义的证据。
可以说，在追求 AI 优势（或者至少是华尔街所理解的 AI 优势）的过程中，伤害正在发生。随着欧盟 AI 法规的通过——该法规对违反某些 AI 护栏的行为处以罚款——地平线上或许出现了一丝希望。但前路依然漫长。
过去几天值得关注的其他 AI 新闻
2024 年 AI 预测：Devin 列出了他对 2024 年 AI 的预测，涉及 AI 可能如何影响美国初选以及 OpenAI 的未来动向等话题。
反对伪人化：Devin 还撰文建议禁止 AI 模仿人类行为。
反对伪人化
Microsoft Copilot 获得音乐创作功能：得益于与 GenAI 音乐应用 Suno 的集成，Microsoft 的 AI 驱动聊天机器人 Copilot 现在可以创作歌曲了。
Rite Aid 停用面部识别：美国联邦贸易委员会发现，美国药店巨头 Rite Aid “鲁莽地使用面部监控系统”导致顾客受辱，并将其“敏感信息置于风险之中”，因此禁止其使用面部识别技术五年。
欧盟提供计算资源：欧盟正在扩大其计划，该计划最初于去年 9 月宣布并于上个月启动，旨在通过向本土 AI 初创公司提供在其超级计算机上进行模型训练所需的算力，来支持这些企业发展。
OpenAI 赋予董事会新权力：OpenAI 正在扩大其内部安全流程，以抵御有害人工智能的威胁。一个新的“安全咨询小组”将凌驾于技术团队之上，并向管理层提出建议，同时董事会被授予否决权。
与加州大学伯克利分校的肯·戈德伯格（Ken Goldberg）的问答：在《Actuator》通讯的常规栏目中，布莱恩（Brian）采访了加州大学伯克利分校教授、初创公司创始人以及杰出的机器人学家肯·戈德伯格（Ken Goldberg），探讨人形机器人及更广泛的机器人行业趋势。
首席信息官对生成式人工智能采取谨慎态度：Ron 写道，尽管首席信息官面临着提供人们在与 ChatGPT 在线互动时所体验到的那种体验的压力，但大多数人在为企业采用这项技术时采取了深思熟虑且谨慎的方法。
新闻出版商就人工智能问题起诉谷歌：多家新闻出版商提起的集体诉讼指控谷歌通过反竞争手段“抽走”新闻内容，部分是通过谷歌搜索生成式体验（SGE）和 Bard 聊天机器人等人工智能技术实现的。
OpenAI 与 Axel Springer 达成协议：说到出版商，总部位于柏林、拥有包括 Business Insider 和 Politico 在内的出版物的 Axel Springer 与 OpenAI 达成了一项协议，以在其出版商的内容上训练其生成式人工智能模型，并将近期由 Axel Springer 发表的文章添加到 ChatGPT 中。
谷歌将 Gemini 扩展到更多领域：谷歌将其 Gemini 模型与其更多产品和服务集成，包括其 Vertex AI 托管的人工智能开发平台以及 AI Studio，后者是该公司用于创作基于人工智能的聊天机器人及其他类似体验的工具。
更多机器学习知识
毫无疑问，过去一两周中最疯狂（也最容易误解）的研究必须是 life2vec，这是一项丹麦研究，利用个人生活中的无数数据点来预测一个人的性格特征及其死亡时间。大致如此！
这项研究并未声称具有神谕般的准确性，而是旨在表明，如果我们的生活是我们所有经历的总和，那么利用当前的机器学习技术，可以在一定程度上推演这些路径。在成长背景、教育、工作、健康、爱好和其他指标之间，人们可以合理地预测某人不仅是内向还是外向，还可以预测这些因素如何影响预期寿命。我们目前尚未达到“预犯罪”（precrime）的水平，但可以肯定的是，保险公司迫不及待地想要获得这项工作的授权。
卡内基梅隆大学（CMU）的科学家还提出了另一个重大主张，他们创建了一个名为 Coscientist 的系统，这是一个基于大型语言模型（LLM）的研究人员助手，能够自主完成大量实验室繁琐工作。它目前仅限于某些化学领域，但就像科学家一样，这类模型将成为专家型系统。
首席研究员 Gabe Gomes 告诉 Nature：“当我看到非有机智能能够自主规划、设计和执行人类发明的化学反应时，那真是太令人惊叹了。那是一个‘天哪’的时刻。”基本上，它使用经过化学文档微调的大型语言模型（如 GPT-4）来识别常见的反应、试剂和程序并执行它们。因此，你不需要告诉实验室技术员合成四个批次的某种催化剂——人工智能可以做到这一点，甚至你都不需要手把手地指导它。
谷歌的人工智能研究人员本周也取得了重大进展，深入探索了几个有趣的前沿领域。FunSearch 听起来像是为儿童设计的谷歌，但实际上它是函数搜索（function search）的缩写，与 Coscientist 一样，能够进行和帮助进行数学发现。有趣的是，为了防止幻觉，这个系统（以及最近的其他系统）使用了非常类似于“旧”GAN 架构的成对 AI 模型。一个负责推测，另一个负责评估。
虽然 FunSearch 不会带来任何突破性的新发现，但它可以利用现有资源，将其优化或重新应用于新领域，因此一个领域使用而另一个领域尚不知晓的函数，可能被用来改进行业标准算法。
StyleDrop 是一个方便的工具，供希望复制特定风格的人通过生成式图像实现这一目标。问题在于（正如研究人员所看到的），如果你心中有一种风格（例如“粉彩”）并描述它，模型会有太多的“粉彩”子风格可供选择，导致结果不可预测。StyleDrop 允许你提供你所思考风格的示例，模型将基于该示例开展工作——这基本上是一种超高效的微调方式。
博客文章和论文表明，该模型相当稳健，可以将任何图像的风格（无论是照片、绘画、城市景观还是猫肖像）应用到任何其他类型的图像上，甚至包括字母表（出于某种原因，这对某些人来说 notoriously hard，即非常困难）。
谷歌也在生成式视频游戏领域稳步推进，推出了 VideoPoet，它使用大型语言模型基础（如今其他一切也都是如此……你还能用什么？）来执行多种视频任务，如将文本或图像转换为视频、扩展或风格化现有视频等。正如每个项目所明确指出的那样，这里的挑战不仅仅是制作一系列相互关联的图像，而是要在较长时间内（如超过一秒）保持连贯性，并处理大幅度的运动和变化。
VideoPoet 将球向前移动，看起来似乎如此，但正如你所见，结果仍然相当怪异。然而，这类技术的发展进程正是如此：起初它们不够完善，接着变得怪异，随后又令人毛骨悚然。想必它们最终会摆脱这种诡异感，但目前尚未有人真正达到这一阶段。
在实际应用方面，瑞士研究人员已将人工智能模型应用于积雪测量。通常人们会依赖气象站，但这些站点可能相距甚远，而我们拥有这么多优质的卫星数据，对吧？没错。因此，苏黎世联邦理工学院（ETHZ）团队采用了 Sentinel-2 星座的公开卫星影像，但正如项目负责人康拉德·辛德勒（Konrad Schindler）所言：“仅仅观察卫星图像中的白色部分并不能立即告诉我们积雪有多深。”
因此，他们从联邦地形测量局（类似于美国的 USGS）获取了全国的地形数据，并训练系统不仅基于影像中的白色区域进行估算，还结合地面真实数据和融化模式等趋势。这项技术正由 ExoLabs 进行商业化推广，我即将联系该公司以了解更多详情。
不过，来自斯坦福的警告——尽管上述应用功能强大，但请注意，它们几乎不涉及人类偏见问题。而在健康领域，这突然成为一个大问题，因为大量 AI 工具正在该领域进行测试。斯坦福研究人员表明，AI 模型会传播“旧的医疗种族刻板印象”。GPT-4 并不知晓某事是否属实，因此它会复述关于某些群体的陈旧且已被证伪的说法，例如声称黑人的肺活量较低。事实并非如此！如果你在使用任何与健康或医学相关的 AI 模型，务必保持警惕。
最后，这里有一个由 Bard 根据拍摄脚本和提示词创作的短篇故事，并由 VideoPoet 渲染呈现。小心了，皮克斯！