全文2253字
预计阅读时长 5分钟
01
AI领域竞争激烈 安全问题被忽视？
在去年十一月份，OpenAI 公开发行了一款智能聊天机器人产品——ChatGPT；而在本周，它又推出了一款功能更强大的二代产品——GPT-4。
与此同时，其他的公司也在加足马力推出类似于ChatGPT的产品。尽管OpenAI拥有投资公司微软作为“靠山”，但对手公司的仍然给它带来了很大的竞争压力。
P1
OpenAI首席执行官萨姆·奥尔特曼。
图源：OVELLE TAMAYO/ FORTHE WASHINGTON POST
“这个领域的竞争非常激烈。”本周，OpenAI的创始人之一以及首席科学家Ilya Sutskever，在一场与The Verge（一家美国科技媒体网站）的访谈中如是说。“GPT-4的研发并不容易......有好多公司想来做同样的事。从竞争的角度来看，这意味着这个领域正在逐渐走向成熟。”
“It’s competitive out there,” OpenAI cofounder and chief scientist Ilya Sutskever told The Verge in an interview published this week. “GPT-4 is not easy to develop…there are many many companies who want to do the same thing, so from a competitive side, you can see this as a maturation of the field.”
OpenAI 的首席执行官Sam Altman 自信人工智能对社会发展极为有利，但同时他也在担心，别有用心之人会滥用这项技术。
在一场美国广播公司的采访中，Sam Alman警告：“其他开发者可能不会像我们一样设置安全限制。”
In an ABC News interview this week, he warned “there will be other people who don’t put some of the safety limits that we put on.”
Open AI声称，他们用“标注数据”的方式做内容护栏。 对于这个问题，ChatGPT给出了如上的答案：
Altman认为，一些竞争对手可能不关心在他们的类ChatGPT或GPT-4产品上设置同等标准的保护措施。
Some of those rivals might be far less concerned than OpenAI is about putting guardrails on their equivalents of ChatGPT or GPT-4, Altman suggested.
“我担心的一件事是……我们不会是这项技术的唯一创造者，”他说。“而其他公司未必会像我们一样对人工智能设置一些安全限制。留给社会应对、监管和处理这个问题的时间不多了。”
“A thing that I do worry about is … we’re not going to be the only creator of this technology,” he said. “There will be other people who don’t put some of the safety limits that we put on it. Society, I think, has a limited amount of time to figure out how to react to that, how to regulate that, how to handle it.”
02
大语言模型（LLM）可能带来哪些隐患？
知识卡片
什么是大语言模型（LLM）？
大型语言模型”（Large Language Model）是一种深度学习算法，它可以识别、概括、翻译、预测并生成文本等内容，这些内容基于从大规模数据集中获得的知识。
大型语言模型是Transformer模型最成功的应用之一。它们不仅用于训练人工智能，使理解自然语言，还可以训练其编写软件代码。
Transformer模型于2017年由谷歌大脑的一个团队推出，旨在处理自然语言等顺序输入数据，可应用于翻译、文本摘要等任务。该模型能够一次性处理所有输入数据，允许更多的并行计算，并以此减少训练时间。
大语言模型强大功能的另一面，是它可能带来一系列安全隐患，比如能在要求下提供危险信息。
本周，OpenAI分享了一份名为“系统卡片”的文件，概述了测试人员如何有意引导GPT-4提供危险信息，比如：使用一些基本原料和厨房常见的物品制作危险化学品，文件同时说明了该公司在产品发布前如何解决用户恶意引导等安全问题。
OpenAI this week shared a “system card” document that outlines how its testers purposefully tried to get GPT-4 to offer up dangerous information, such as how to make a dangerous chemical using basic ingredients and kitchen supplies, and how the company fixed the issues before the product’s launch.
另一种危险情况是电信诈骗。诈骗团伙现在正在使用语音克隆的AI工具，让声音听起来像是需要借钱的亲戚，并从受害者那里成功勒索到了钱财。
“我特别担心这些模型可能被用于大规模的虚假信息传播，”Altman说。“现在，这样的模型可以非常熟练地写代码，（它们）可能被用于恶意的网络攻击。”
“I’m particularly worried that these models could be used for large-scale disinformation,” Altman said. “Now that they’re getting better at writing computer code, [they] could be used for offensive cyberattacks.”
03
制定规则迫在眉睫
鉴于他的公司背景，Altman非常坦率地谈到了人工智能带来的危险
OpenAI成立于2015年，是一家专注于人工智能的安全、透明发展的非营利性组织。2019年，随着微软成为其主要的投资方，OpenAI转型并采用了一种混合的“封顶盈利”模式。（正如这种模式的名字所言，微软能从协定中获取的利润是有上限的。）
It switched to a hybrid “capped-profit” model in 2019, with Microsoft becoming a major investor (how much it can profit from the arrangement is capped, as the name of the model suggests).
特斯拉和推特的首席执行官埃隆·马斯克，也曾是OpenAI的联合创始人，并且为其提供了巨额捐款。马斯克批评了OpenAI的这一转型，他在上个月提出：“OpenAI原本是作为一个开源的（这就是为什么我叫它Open AI）、非盈利性质的公司而创建的，它本来是用以制衡谷歌的，而现在却成了一个封闭的、盈利导向的公司，并且被微软把控。”
Tesla and Twitter CEO Elon Musk, who was also an OpenAI cofounder—and who made a hefty donation to it—has criticized this shift, noting last month: “OpenAI was created as an open source (which is why I named it “Open” AI), non-profit company to serve as a counterweight to Google, but now it has become a closed source, maximum-profit company effectively controlled by Microsoft.”
十二月早些时候，马斯克说ChatGPT“好得吓人”，并且警告道：“危险、强大的人工智能（威胁）对我们而言已经迫在眉睫了。”
In early December, Musk called ChatGPT “scary good” and warned, “We are not far from dangerously strong AI.”
而Altman其实也一直不遗余力地向公众发出警告。上个月，他在一系列推文中表示担忧：“不知道未来的人会如何看待我们”。
But Altman has been warning the public just as much, if not more, even as he presses ahead with OpenAI’s work. Last month, he worried about “how people of the future will view us” in a series of tweets.
他写道：“我们还需要争取足够多的时间，以供有关机构研究对策。规制将会是非常重要的一环，而且也将是一项耗时的任务......我们需要时间，来弄明白正在发生些什么、人们想要怎样使用这些工具，以及人工智能将如何和社会协同发展——这是至关重要的。”
“We also need enough time for our institutions to figure out what to do,” he wrote. “Regulation will be critical and will take time to figure out…having time to understand what’s happening, how people want to use these tools, and how society can co-evolve is critical.”
原文链接：
https://fortune.com/2023/03/18/openai-ceo-sam-altman-warns-that-other-ai-developers-working-on-chatgpt-like-tools-wont-put-on-safety-limits-and-clock-is-ticking/
编译 | 高语阳 张玉兴 郭宇航
排版 | 高语阳
