大数跨境

本周AI动态:生成式AI正在向学术期刊大量投放垃圾内容

本周AI动态:生成式AI正在向学术期刊大量投放垃圾内容 海外洞察
2024-06-19
0
导读:在本期 TechCrunch 的《AI 本周》通讯中,我们深入探讨生成式 AI 给学术出版界带来的混乱。

大家好,欢迎订阅 TechCrunch 的常规 AI 通讯。

本周 AI 动态:生成式 AI 开始向学术出版领域发送垃圾内容——这是虚假信息方面的一个令人沮丧的新动向。

在 Retraction Watch 上的一篇文章中,这个追踪近期学术研究撤稿情况的博客网站上,哲学助理教授 Tomasz Żuradzk 和 Leszek Wroński 撰文指出,由 Addleton Academic Publishers 出版的三本期刊似乎完全由 AI 生成的文章组成。

这些期刊中的论文遵循相同的模板,堆砌了大量诸如“区块链”、“元宇宙”、“物联网”和“深度学习”等流行术语。它们列出了相同的编辑委员会——其中 10 名成员已经去世——以及纽约皇后区一个看似普通住宅的地址。

那么,这有什么大不了的?你可能会问。如今在互联网上浏览 AI 生成的垃圾内容,难道不是做生意必须付出的代价吗?

确实如此。但这些假期刊展示了操纵用于评估研究人员晋升和招聘的系统是多么容易——这可能成为其他行业知识工作者的预警信号。

在至少一个广泛使用的评估系统 CiteScore 上,这些期刊在哲学研究排名中位列前十。这是如何做到的?它们大量相互引用。(CiteScore 在其计算中考虑了引用次数。)Żuradzk 和 Wroński 发现,在 Addleton 某本期刊的 541 次引用中,有 208 次来自该出版社的其他虚假出版物。

“[这些排名]经常被大学和研究资助机构用作衡量研究质量的指标,”Żuradzk 和 Wroński 写道。“它们在决定学术奖项、招聘和晋升方面起着至关重要的作用,因此可能会影响研究人员的发表策略。”

有人可能会说 CiteScore 才是问题所在——显然它是一个有缺陷的指标。这种说法并非没有道理。但同样没错的是,生成式 AI 及其滥用正在以意想不到的方式——且可能造成相当严重的损害——扰乱人们赖以生存的系统。

未来,生成式 AI 可能促使我们重新思考和重构像 CiteScore 这样的系统,使其更加公平、全面和包容。更阴暗的替代方案——也是目前正在发生的场景——是生成式 AI 继续失控,造成混乱并毁掉职业生涯。

我真心希望我们能尽快纠正航向。

新闻

DeepMind 的配乐生成器:DeepMind,谷歌的人工智能研究实验室,表示正在开发用于为视频生成配乐的 AI 技术。DeepMind 的 AI 会结合配乐描述(例如“水下脉动的 jellyfish、海洋生物、海洋”)与视频,创作出与视频角色和基调相匹配的音乐、音效甚至对话。

机器人司机:东京大学的研究人员开发并训练了一个名为 Musashi 的“肌肉骨骼型人形机器人”,使其能够驾驶一辆小型电动汽车通过测试赛道。Musashi 配备了两台充当人类眼睛的摄像头,既能“看到”前方的道路,也能看到汽车侧视镜中反射的景象。

一款新的 AI 搜索引擎:Genspark 是一款全新的 AI 驱动搜索平台,利用生成式 AI 根据搜索查询编写自定义摘要。截至目前,它已从包括 Lanchi Ventures 在内的投资者那里筹集了 6000 万美元;该公司上一轮融资后的估值为 2.6 亿美元,在与 Perplexity 等竞争对手抗衡时,这是一个相当可观的数字。

ChatGPT 多少钱?:ChatGPT,OpenAI 不断扩展的 AI 驱动聊天机器人平台,收费多少?这个问题比你想的要难回答得多。为了跟踪各种可用的 ChatGPT 订阅选项,我们整理了一份更新的 ChatGPT 定价指南。

本周研究论文

自动驾驶汽车面临着无穷无尽的边缘情况,这取决于地点和情境。如果你行驶在双向车道上,有人打起了左转向灯,这意味着他们要变道吗?还是意味着你应该超车?答案可能取决于你是在 I-5 州际公路上还是在 Autobahn(德国高速公路)上。

Nvidia、USC、UW 和斯坦福大学的一组研究人员在 CVPR 最新发表的一篇论文中指出,许多模糊或不寻常的情况可以通过让 AI 阅读当地驾驶员手册来解决——没错,就是这么简单。

他们的大型语言驾驶助手,即 LLaDa,使 LLM 能够访问——甚至无需针对其进行微调——某个州、国家或地区的驾驶手册。当地规则、习俗或标志牌信息都收录在文献中,当发生如鸣笛、远光灯或羊群出没等意外情况时,系统会生成相应的适当操作(靠边停车、停止转弯、回按喇叭)。

图片来源:Nvidia

这绝非一个完整的端到端驾驶系统,但它展示了一条通往“通用”驾驶系统的替代路径,尽管该系统仍会遇到意外情况。此外,这也可能为我们提供一种方式,让我们在面对陌生路段时,明白为何会被按喇叭催促。

本周模型

周一,Runway,一家专注于为电影和图像内容创作者构建生成式 AI 工具的公司,发布了 Gen-3 Alpha。Gen-3 在大量来自公开渠道和内部来源的图像和视频上进行训练,能够根据文本描述和静态图片生成视频片段。

Runway 表示,Gen-3 Alpha 在生成速度和保真度方面相比 Runway 之前的旗舰视频模型 Gen-2,实现了“重大”提升,并且能够对所创建视频的结构、风格和运动进行细粒度控制。Runway 表示,Gen-3 还可以定制以支持更具“风格化控制”且一致的角色,旨在满足“特定的艺术和叙事需求”。

Gen-3 Alpha 存在其局限性——包括其视频片段最长仅为 10 秒。然而,Runway 联合创始人 Anastasis Germanidis 承诺,这只是下一代模型家族中即将推出的多个视频生成模型中的第一个,该家族将在 Runway 升级的基础设施上进行训练。

Gen-3 Alpha 只是最近几个月涌现的众多生成式视频系统中最新的一个,其他包括 OpenAI 的 Sora、Luma 的 Dream Machine 以及 Google 的 Veo。它们共同威胁着我们要颠覆我们所熟知的影视行业——前提是它们能够克服版权挑战。

杂项

AI 不会接下你下一份麦当劳订单。

麦当劳本周宣布,将从其超过 100 家餐厅门店移除该快餐连锁品牌已测试了近三年的自动点餐技术。这项由 IBM 联合开发并安装在餐厅得来速通道的技术,去年因其频繁误解顾客和出错而引发病毒式传播。

最近一篇文章《Takeout》指出,人工智能对快餐运营商的控制力正在减弱,而就在不久前,这些运营商还对这项技术及其提升效率(并降低人力成本)的潜力表示出极大的热情。Presto 是 AI 辅助车道服务领域的主要参与者之一,最近失去了一位重要客户 Del Taco,并且面临着日益增加的亏损。

问题在于准确性不足。

麦当劳首席执行官 Chris Kempczinski 告诉 CNBC 在 2021 年 6 月表示,其语音识别技术的准确率约为 85%,但人类员工仍需协助处理约五分之一的订单。与此同时,据《Takeout》报道,Presto 系统的最佳版本在没有人类帮助的情况下,仅能完成大约 30% 的订单。

因此,虽然 AI 正在摧毁零工经济的某些细分市场,但似乎有些工作——特别是那些需要理解多种口音和方言的工作——目前无法被自动化取代。至少就目前而言是这样。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k