大家好，欢迎来到 TechCrunch 的常规 AI 通讯。
本周 AI 动态：一项新研究表明，生成式 AI 实际上并没有那么有害——至少不是那种末日般的危害。
在提交给计算语言学协会年度会议的论文中，来自巴斯大学和达姆施塔特工业大学的研究人员认为，Meta Llama 系列等模型无法在没有明确指令的情况下独立学习或获得新技能。研究人员进行了数千次实验，以测试多个模型完成此前未见过任务的能力（例如回答超出其训练数据范围主题的问题）。他们发现，虽然这些模型表面上能遵循指令，但无法自主掌握新技能。
“我们的研究表明，人们担心模型会自行做出完全出乎意料、具有创新性且潜在危险的行为，这种担忧是没有根据的，”巴斯大学计算机科学家、该研究合著者 Harish Tayyar Madabushi 在一份声明中表示，“当前普遍认为这类 AI 对人类构成威胁的主流叙事，阻碍了这些技术的广泛采用和发展，同时也将人们的注意力从真正需要关注的问题上转移开了。”
这项研究也存在局限性。研究人员并未测试来自 OpenAI 和 Anthropic 等厂商最新、最强大的模型，而对模型进行基准测试往往是一门不精确的科学。但该研究并非首次发现当今的生成式 AI 技术并不威胁人类——并且假设相反情况可能会导致令人遗憾的政策制定。
在去年《科学美国人》杂志的一篇评论文章中，AI 伦理学家 Alex Hanna 和语言学教授 Emily Bender 提出，企业 AI 实验室将监管注意力引向虚构的世界末日场景，作为一种官僚策略手段。他们提到了 OpenAI CEO Sam Altman 在 2023 年 5 月的一次国会听证会上的发言，当时他暗示——尽管没有证据——生成式 AI 工具可能会“出大问题”。Hanna 和 Bender 写道：“更广泛的公众和监管机构绝不能落入这种圈套。相反，我们应该关注那些践行同行评审并试图理解其当下有害影响的学者和活动家，他们对 AI 炒作提出了反驳。”
随着投资者继续向生成式 AI 投入数十亿美元，且炒作周期接近顶峰，Madabushi 的观点以及上述观点都是需要牢记的关键点。支持生成式 AI 技术的公司面临着巨大的利害关系，而对他们及其支持者有利的事情，并不一定对我们其他人有利。
生成式 AI 可能不会导致我们的灭绝。但它已经在以其他方式造成危害——例如非自愿深度伪造色情内容的传播、错误的面部识别逮捕以及大量低薪数据标注员问题。希望政策制定者也能看到这一点并持有相同观点——或者最终转变看法。如果不是这样，人类确实可能有理由感到恐惧。
新闻
Google Gemini 和 AI，天哪：谷歌年度 Made By Google 硬件活动于周二举行，该公司宣布对其 Gemini 助手进行大量更新——以及新手机、耳机和智能手表。查看 TechCrunch 的最新报道汇总。
AI 版权诉讼继续推进：由艺术家提起的集体诉讼指控 Stability AI、Runway AI 和 DeviantArt 非法在其 AI 模型中使用受版权保护的作品进行训练，该诉讼获准部分推进，主审法官周一作出裁决。在一份混合判决中，原告的部分索赔被驳回，而其他索赔得以保留，这意味着该案可能最终进入审判阶段。
X 和 Grok 面临的问题：由埃隆·马斯克拥有的社交媒体平台 X 因在未经用户同意的情况下，擅自使用欧盟用户的数据来训练 AI 模型，而遭到一系列隐私投诉。X 已同意暂时停止为训练 Grok 而处理欧盟数据。
YouTube 测试 Gemini 头脑风暴功能：YouTube 正在测试与 Gemini 的集成，以帮助创作者构思视频创意、标题和缩略图。该功能名为“Gemini 头脑风暴”，目前仅作为一项小型有限实验的一部分，向部分精选创作者开放。
OpenAI 的 GPT-4o 出现怪异行为：OpenAI 的 GPT-4o 是该公司首个同时接受语音、文本和图像数据训练的模型。这导致它有时会表现出奇怪的行为——比如模仿与其对话者的声音，或在对话中途突然大喊大叫。
本周研究论文
市面上有许多公司提供声称能可靠检测生成式 AI 模型所写文本的工具，这些工具可用于打击虚假信息和剽窃等行为。但此前我们测试了几款此类工具，发现它们几乎都不起作用。而一项新研究表明，情况并未得到多大改善。
宾夕法尼亚大学的研究人员设计了一个包含超过 1000 万份 AI 生成和人类撰写的食谱、新闻文章、博客帖子等内容的数据集和排行榜，即鲁棒性 AI 检测器（RAID），用于衡量 AI 文本检测器的性能。他们发现所评估的检测器“大多无用”（用研究人员的话来说），仅在应用于特定用例且文本与其训练数据相似时才有效。
“如果大学或学校依赖经过狭义训练的检测器来捕捉学生使用[生成式 AI]撰写作业的行为，它们可能会在没有作弊的情况下错误地指控学生作弊，”计算机与信息科学教授、该研究共同作者 Chris Callison-Burch 在一份声明中表示，“它们也可能漏掉那些使用其他[生成式 AI]生成作业而作弊的学生。”看来，在 AI 文本检测方面并没有万灵药——这是一个难以解决的问题。
据报道，OpenAI 自身为其 AI 模型开发了一种新的文本检测工具——对其首次尝试进行了改进——但因担心该工具可能对非英语用户产生不成比例的影响，且文本的细微修改可能使其失效，故拒绝发布。（从较少公益的角度来看，OpenAI 还担心内置的 AI 文本检测器可能会影响其产品的感知度和使用情况。）
本周模型
生成式 AI 的用途似乎不仅限于制作表情包。MIT 研究人员正将其应用于标记风力涡轮机等复杂系统中的问题。
麻省理工学院计算机科学与人工智能实验室的一个团队开发了一个名为 SigLLM 的框架，其中包含一个组件，可将时间序列数据——即随时间重复测量的数据——转换为生成式 AI 模型可处理的文本输入。用户可以将这些预处理后的数据输入模型，并要求它开始识别异常。该模型还可用于在异常检测流程中预测未来的时间序列数据点。
该框架在研究人员的实验中表现并不特别出色。但如果其性能得以提升，SigLLM 例如可以帮助技术人员在重型机械等设备出现问题之前标记潜在故障。SigLLM 论文的主要作者、电气工程与计算机科学研究生 Sarah Alnegheimish 在一份声明中表示：“由于这仅仅是第一版迭代，我们并未期望一开始就能达到理想效果，但这些结果表明，利用 [生成式 AI 模型] 来处理复杂的异常检测任务存在机会。”
杂项
OpenAI 本月将其 AI 驱动的聊天机器人平台 ChatGPT 升级到了一个新的基础模型——但几乎没有发布任何更新日志（勉强算有）。
自上周以来，ChatGPT 中推出了新的 GPT-4o 模型。希望大家喜欢，如果还没体验过，欢迎试试！我们相信你会喜欢的 😃 —— ChatGPT (@ChatGPTapp) 2024年8月12日
那么该如何看待这一现象呢？究竟能从中解读出什么？除了来自主观测试的轶事证据外，别无他物。
我认为沃顿商学院研究人工智能、创新和初创企业的教授伊森·莫利克（Ethan Mollick）的观点是正确的，为生成式 AI 模型撰写发布说明之所以困难，是因为模型在每次交互中“感觉”都不同；它们很大程度上基于氛围。与此同时，人们在使用并付费使用 ChatGPT，难道他们不应当了解自己所面对的情况吗？
这可能是改进幅度较小，而 OpenAI 出于竞争原因认为不宜对此进行暗示；更不太可能的情况是，该模型与 OpenAI 据报道的推理能力突破有关。无论如何，在人工智能领域，透明度应成为优先事项，缺乏透明度就无法建立信任——而 OpenAI 已经失去了大量这种信任。