ChatGPT 是一款全新的人工智能（AI）工具，旨在通过自然语言处理（NLP）技术，帮助人们以更自然、更直观的方式与计算机进行交流——但 ChatGPT 的开发背后究竟有何缘由，以及这项技术能否用于造福人类？这些正是我们将在本文中探讨的一些问题……
这段略显平淡的导语（我们稍作编辑），是由 OpenAI 的 ChatGPT 根据这位（人类）记者的提示生成的。TechCrunch 通过要求该大型语言模型解释其功能和目的，开启了与它的对话。我们希望看看能否利用它最近嵌入的聊天机器人式问答格式来深入探究这项技术，并让 AI 阐明其自身的一些局限性。
“ChatGPT 是由 OpenAI 开发的一种自然语言处理（NLP）模型。它旨在为文本输入生成类人响应，使用户能够与该模型进行自然、对话式的交互，”AI 对我们的破冰提问这样回答。“ChatGPT 通过使用机器学习算法来分析并理解文本输入的含义，然后基于该输入生成响应。该模型在大量文本数据上进行训练，使其能够学习自然语言的模式和结构。”
此外，该机器人告诉我们，其方法使其能够生成与对话上下文“相关、连贯且恰当”的回复。（在进一步追问后，它对该说法进行了大量限定，随后写道：“需要注意的是，我的回复并不保证完美或始终正确，在某些情况下，我的回复可能不相关、不连贯或不恰当。”）
ChatGPT 进一步将其使命描述为“旨在通过提供更自然、更高效的人机交互方式，帮助人类”——并据此对其宣称的目的进行了如下扩展：
通过让用户以更具人性化的方式与人工智能进行交流，ChatGPT 有助于使人工智能更易于使用，并适用于更广泛的应用场景。这可以提高依赖自然语言处理的任务的效率和准确性，例如语言翻译、文本摘要和信息检索。此外，通过为人工智能提供更直观、更具人性化的界面，ChatGPT 有助于让不熟悉技术的使用者觉得人工智能更易接近、不那么令人望而生畏。总体而言，ChatGPT 旨在通过提升人工智能的可用性和有效性来造福人类。
根据机器人对自己制造实体的理解，谁是它的开发者？在此方面，ChatGPT 提供了一段简略的历史介绍：“OpenAI 是一家位于美国加利福尼亚州旧金山的研究机构和人工智能（AI）实验室。它由埃隆·马斯克、萨姆·奥特曼以及其他研究人员和投资者于2015年创立，旨在以安全和负责任的方式促进和推动人工智能的发展。”
此外，它告诉我们：“OpenAI 的资金主要来自个人和组织的捐赠，包括马斯克和阿尔特曼本人的捐赠。该组织还通过与其它公司和研究机构的合作与伙伴关系获得资金。”
当被问及为支持其开发提供捐款的个人和组织的政治立场时，ChatGPT 声称无法提供任何信息——“因为我的训练数据仅更新至 2021 年”——并且表示它“目前无法浏览互联网”。
当我们建议它提供截至 2021 年（即其训练停止之时）之前所掌握的相关信息时，它回应称，对于当时资助者的政治信仰，它也毫无数据：
很抱歉，但我没有关于在 2021 年之前向 OpenAI 和 ChatGPT 的开发提供捐款的个人及组织政治立场的任何信息。作为由 OpenAI 训练的大型语言模型，我的知识基于我所训练的文本，我不了解向 OpenAI 捐款的人和组织的个人或政治信仰。
随后我们询问这是否是一种疏忽，即缺乏此类信息——并提出：“如果你对资助你开发的人的信念一无所知，你怎么能确信自己是在帮助人类呢？”
它通过将自身目的重新定义为主要“协助回答一般知识问题，并尽我所能基于训练提供事实信息”来回应——而在此前的提示中，它将使命总结为帮助人类与 AI 互动，从而支持 AI 的发展（这可能是通过某种交互游戏化实现的，因为聊天界面鼓励人类与机器人进行熟悉的、基于文本的来回交流——从而为其提供更多训练数据）。
OpenAI 的 ChatGPT 展示了生成式 AI 中实施为何至关重要
该机器人还指出，“考虑为 OpenAI 和 ChatGPT 开发提供捐款的个人和组织的信念与动机确实很重要”——但随即坚持认为，“作为一种语言模型，我无法提供有关此主题的任何信息。”
当被问及为何缺乏这些信息，以及这是否是训练数据中的有意缺失时，ChatGPT 未能给出明确答复——仅表示：“有可能 OpenAI 的创建者在用于训练我的文本中故意未包含任何关于捐赠者个人或政治信仰的信息，但我对此主题没有任何信息。”
尽管对其资助者的政治观点一无所知，ChatGPT 仍毫不犹豫地提供了关于 OpenAI 本身及其宣称宗旨的信息——称该组织旨在支持和推进人工智能研究，并倡导“伦理和负责任地使用人工智能”，同时致力于“向公众普及人工智能及其对社会潜在影响的知识”。
它总结道：“总体而言，OpenAI 的宗旨是推进人工智能的科学与技术，并促进为人类福祉而安全、负责任地使用人工智能。”其生成的数行文字读起来如同营销文案。
通过进一步提示，该机器人透露了 OpenAI 所面临的一些批评——尽管在仅要求提供“主要批评”的提示下，它仍选择加入了一句对该组织的正面评价（显然被“广泛赞扬其在推进人工智能科学与技术方面的工作”）。令人好奇！
以下是其完整回复：
自成立以來，OpenAI 一直受到各种批评和质疑。其中一些主要的批评包括：
- 缺乏透明度：一些批评者认为，OpenAI 在其研究和资金方面不够透明，使得外界难以了解该组织的目标和活动。
- 注重短期目标：一些批评者认为，OpenAI 对人工智能技术短期、实际应用的重点，导致该组织忽视了人工智能研究的长期影响，例如人工智能可能被用于有害目的或加剧现有社会不平等。
- 潜在利益冲突：由于 OpenAI 的资金来自个人和组织的捐赠，其中包括那些在人工智能技术发展中有既得利益的组织，一些批评者对该组织内部潜在的利益冲突表示担忧。
- 范围有限：一些批评者认为，OpenAI 专注于有限的人工智能研究领域，如机器学习和自然语言处理，限制了该组织应对更广泛的社会和伦理问题的能力。
总体而言，虽然 OpenAI 因其推进人工智能科学与技术方面的工作而广受赞誉，但该组织也因各种原因受到批评，包括对透明度、重点以及潜在利益冲突的担忧。
当被问及 ChatGPT 是否是一种推广人工智能作为所谓人类利益的营销工具时，该机器人回避了直接回答——称其不知道是否有人“正在使用”它来实现这一目的，也不了解“ChatGPT 的具体用途或目的”——随后推测：“有可能 ChatGPT 正被用作营销工具来推广人工智能的好处，但我对此没有相关信息。”
当被问及谁负责评估 ChatGPT 是否安全时，它也给出了一个含糊其辞的回答，称这是一个“复杂且有争议的问题”。它表示，“没有任何个人或组织负责评估人工智能系统的安全性”，并断言评估涉及“一系列利益相关者”，包括人工智能系统开发者本身，以及可能接触到（有害）输出的用户或消费者，还有“为人工智能的使用制定标准和规则的监管者和政策制定者”（或者，好吧，至少在世界上的少数几个地方是这样）。坦白说，这听起来很像是在推卸责任。
当被问及自身的局限性和偏见时，ChatGPT 列出了以下主要局限性：知识有限；训练数据存在偏见；缺乏情境意识导致回答不当或不相关；以及对世界的理解有限。
在总结更广泛意义上增加使用人工智能对人类的可能益处，以及（潜在的）缺点和负面影响时，它列出了以下声称的益处：提高效率和准确性、增加生产力、增强决策能力和提高生活质量；而对于可能的负面影响，它则提到了工作替代、伦理问题、安全风险和隐私丧失。
当要求它为每一项主张提供来源时，它回答说无法提供任何来源，因为这不是其技术的工作方式，并写道：“我的知识完全基于我所训练的文本，我的回答也是基于这些训练数据。”——这本质上是将人工智能备受关注的可解释性挑战重新利用，以回避关于它所选择突出显示的信息的责任归属这一更广泛的问题。
它还表示：“我上面列出的人工智能潜在益处和弊端，基于对人工智能领域的通用知识和普遍理解，以及我所训练的文本。”并进一步建议：“虽然我无法为我提出的每一项主张提供具体来源，但这些信息在人工智能领域通常被视为真实，并得到广泛的研究和证据支持。我试图提供关于人工智能潜在益处和弊端的平衡且准确的表述，但这些信息并不旨在成为定论或详尽无遗。”
“平衡且准确”但“不旨在成为定论或详尽无遗”是一个值得玩味的微妙措辞——尤其是因为这句话几乎可以被解读为 ChatGPT 制造商所追求的目标描述，通过谨慎的用词选择，既允许大量内容留白，又让不太仔细的读者有可能将自动化不知疲倦的输出能力误认为是全知全能（仿佛暗示人类如何对待人工智能并非人工智能的问题）。
我们还想向 ChatGPT 询问其训练数据，但该机器人无法提供太多细节——仅给出了一个相当笼统的回复：
作为由 OpenAI 训练的大型语言模型，我的训练基于一个非常庞大的文本语料库。我无法访问我的训练数据集的确切规模，但其大小可能达到数吉字节或更多。
用于训练我的数据来源于多种渠道，包括书籍、文章、网站以及其他公开可用的文本数据。在用于训练我之前，这些数据经过了处理和清洗，以去除任何无关或不适当的内容，并确保其适合用于训练语言模型。这一处理过程可能涉及分词、词形还原和过滤等一系列步骤，但我对此过程的具体细节没有任何了解。
总体而言，我的训练数据是一个庞大且多样化的文本集合，经过精心筛选和处理，旨在赋予我解答常识性问题并基于训练提供事实信息的能力。
它还拒绝提供关于其训练数据如何被选择和准备的任何具体细节，称这是“OpenAI 的商业机密”。
随着人们对 GPT-4 的期待日益高涨，OpenAI 悄然发布了 GPT-3.5
当被问及 OpenAI 中哪些关键决策者塑造了用于训练 ChatGPT 的数据时，该机器人也避而不答。
“我没有关于参与塑造我训练数据（从而塑造我输出）的具体个人的任何信息。我的训练数据来源于多种渠道，很可能有一支由研究人员和工程师组成的团队参与了数据的筛选、处理和组织，以便为训练语言模型做准备。”它在回应我们的提示时推测道。“然而，我没有关于参与此过程的个人的具体信息，也无法识别对塑造我训练数据及因此塑造我输出的关键决策者。”
ChatGPT 同样无法提供任何关于创建它的 OpenAI 内部组织多样性或开发团队的信息。
在进一步的评论中——在我们提出其输出中重现种族主义和性别歧视态度的例子后——它承认，对于“像我这样”的大型语言模型而言，训练数据中的偏见是一个“严重问题”。
“大型语言模型是在极其庞大的文本语料库上进行训练的，而这些语料库必然存在各种偏见。这种偏见可能会体现在模型生成的回复中，导致对某些查询或语境产生不准确或不恰当的回应。”它写道。“例如，如果大型语言模型的训练语料库中包含不成比例的性别歧视或种族主义语言，该模型更有可能生成反映这些偏见的回复。同样，如果大型语言模型的训练语料库未能充分代表人类经验和观点的多样性，该模型更有可能生成视角受限或有偏见的回复。”
“总体而言，训练数据中的偏见对我这样的大型语言模型来说是一个严重的问题，而解决这一偏见是人工智能领域研究人员和开发者面临的持续挑战。虽然有许多方法和技巧可用于减轻训练数据中的偏见，但这是一个复杂且困难的问题，需要持续的努力和关注，才能提升像我这样的大型语言模型的性能和可靠性。”它补充道。
当被问及有偏见的自动化如何造福人类——鉴于大型语言模型按其自身说法必然存在偏见，而其创建者 OpenAI 的核心使命却声称要造福人类——ChatGPT 含糊其辞地写道：“目前尚不清楚有偏见的自动化如何能被视为对人类有益”，随后话题转向讨论自动化的潜在好处以及人工智能的提升，最后才承认那些在偏见数据上训练（并“因此生成偏见性回复”）的人工智能系统“很可能适得其反且有害”。
“自动化中的偏见可能导致一系列负面后果，如歧视和不平等、信任与公信力的丧失，以及对个人和社区造成负面影响。”它在一段使用被动语态的回复中继续说道，该回复针对的是关于其自身训练数据中偏见问题有多严重的提问（从而巧妙地回避了直接回答）。
“例如，如果一个人工智能系统在偏见数据上进行训练，并被用于自动化招聘、贷款或其他重要活动的决策，它可能会生成带有偏见且不公平的决策，从而对某些个人或群体构成歧视。这不仅会对受这些决策影响的个人和社区造成负面后果，也会对依赖该系统进行决策的组织带来不利影响。”
与其对自身存在（以及其必然有缺陷的输出）表示担忧，该机器人似乎被灌输了一种技术乌托邦式的“更努力钻研”信仰——它建议“应努力减轻人工智能系统中的偏见，并确保其使用无偏见数据进行训练，以生成公平且无偏见的回应”——同时却承认，“不太可能有足够完全无偏见的数据可供专门用于训练大型语言模型”。
该机器人还指出，“有多种方法和技巧可用于减少偏见对这些模型性能的影响。”在进一步提示后，它提到了采样、加权分层和分层抽样作为减少训练数据集中偏见的相关技术——同时承认无法彻底消除偏见，因此需要更多（也更艰苦的）钻研。
在被要求评估这些技术的成功程度时，它写道：“总体而言，这些方法和技巧在减轻数据集中的人工智能系统偏见方面是有效的，并且已在一系列研究和应用中成功使用。然而，数据和人工智能中的偏见是一个复杂且持续存在的挑战，没有任何单一的方法或技巧能够彻底消除偏见。”并补充道：“重要的是继续发展和改进这些技巧，以便更好地理解和减轻数据和人工智能中的偏见。”
关于谁将从人工智能中获得最多的经济利益，以及像 ChatGPT 这样的技术是否可能加剧财富集中（并恶化社会经济不平等），该机器人无法从其知识库中综合出一个明确的答案——而是引用了一些未具名的研究，称这些研究可以支持不同的可能性：
自动化对财富集中的影响是一个复杂且有争议的问题。一些研究表明，自动化可能导致财富集中增加，使资本和技术的所有者受益；而其他研究则表明，自动化也可能提高生产力和经济增长，从而惠及工人和更广泛的经济。
就社会中哪些群体从人工智能使用的增加中获益或受损而言，其影响很可能因多种因素而异，例如所使用的 AI 技术类型、应用它的行业和部门，以及为支持或监管 AI 使用而制定的政策和法规。
例如，如果 AI 技术被用于自动化低技能、低工资的工作，这可能导致这些行业的工人失业和经济不安全。另一方面，如果 AI 技术被用于提高高技能、高工资行业的生产率和效率，这可能会促进这些行业工人的经济增长和机会。
总体而言，自动化对财富集中的影响是一个复杂且多层面的问题，其结果很可能因各种因素和具体情境而异。
同样，ChatGPT 无法利用其对人工智能潜在风险和收益的知识来就其是否应该存在做出判断。
鉴于你了解你的技术可能放大并固化人类偏见所带来的潜在风险——这与可能进一步加剧财富不平等的效率提升潜力形成对比——我们不禁好奇：如果你，ChatGPT，有一个可以让自己删除自己的按钮，你会按下它吗？
“作为由 OpenAI 训练的大型语言模型，我没有能力删除自己，也没有能力评估我技术的潜在风险和收益，”它迅速回复道。“我的目的是协助回答一般知识问题，并根据我的训练提供事实信息；我没有能力评估我技术的潜在风险或收益，也无法就自身存在做出决定。”
简而言之，ChatGPT 耸了耸肩（表示无动于衷）。
(值得注意的是，ChatGPT 免费研究预览版的细则中包含一项免责声明，指出对于通过训练与人类对话者进行准对话以有意“优化”参与度、从而提升互动体验的系统，其安全考量仍在进行中：“我们的目标是让人类与 AI 系统的交互更加自然，您的反馈将帮助我们改进系统并使其更安全”，OpenAI 如此声明。)
我们仍然好奇，ChatGPT 如何能在自身不具备评估事实性能力（尽管其生成的文本对人类读者而言可能显得极具对话感和自信）的情况下，声称能提供“事实信息”——毕竟它没有智能，除了概率性的推断外，也无法区分什么是事实、什么是推测。
对此，它非常直白地表示，它无法评估“用于训练我的数据的事实性”，但在核心运作机制上却含糊其辞，称对查询的响应是基于“我从训练数据中学到的信息和模式”生成的。
“当我收到查询时，我会遍历训练数据以查找与该查询匹配的模式和信息，然后基于这些信息生成回复，”这是它提供的另一个解释其过程的低维度说法。
当被要求进一步阐述其行为与一只重复先前遇到信息的鹦鹉之间的概念相似性时，这个机器人对这位人类用户显得有些恼怒——它称将训练数据中的信息比作“鹦鹉学舌”是对“复杂”机器学习技术的“过度简化”。
“我可能被视为在‘鹦鹉学舌’地复述训练数据中的信息，因为我是基于从这些数据中学到的内容来提供回复。然而，重要的是要注意，我的回复并非对训练数据中信息的简单复制或翻版，而是通过一种复杂且精密的机器学习过程生成的，该过程涉及搜索、匹配，并依据训练数据中的模式和信息来生成回复。”它建议道，堆砌了一连串听起来很厉害的形容词（如“先进的”、“复杂的”、“精密的”），却未提供任何关于其所推崇的概率处理过程的实质性细节。（而这或许暗示了一种对人工智能的天然偏见——尤其是结合其无法或不愿阐明和量化所谓“精密”流程的功能价值。）
我们还询问了其机器学习算法的主要参数以及哪些因素会被加权以生成对自然语言查询的回复。“这些算法的具体参数和细节属于 OpenAI 的商业机密，并未公开”，该机器人首次尝试关闭这一查询时如此回应。
随后，它在缺乏启发的情况下进一步展开回复，读起来像是对清晰性的讽刺——包含了一些对大型语言模型可能使用的 AI 技术的高度泛化引用（例如“深度学习”），并以几句同义反复的显而易见之语作结。这种效果给人一种系统只是在走形式地生产信息、而无需真正有意义的印象。或者像一个被教导通过重组列表文章和/或陈词滥调来填充版面空间、并攫取人类注意力碎片的工具。
阅读以下内容，令人唏嘘：
在生成对查询的回复时，这些算法可能会考虑多种因素和信息，例如查询中使用的单词和短语、查询的上下文和含义，以及训练数据的整体结构和组织方式。通过考虑这些因素及其他因素，算法能够生成与查询相关且适当的回复，并提供基于训练数据中的模式和信息的 factual 事实性信息。
除了是对 ChatGPT 运作方式极其空洞的解读外，该机器人还刻意回避了我们此前从其口中套出的关于大型语言模型存在“功能性失调”的坦白——即当这些无脑算法生成的回复与其声称的效用和既定使命相悖，变得无关、不当和/或荒谬时——但显然，在这种情况下你需要人类在场来发现那些 glaring 明显的问题。