自从ChatGPT和其他生成式人工智能应用程序突然出现以来，我们一直在探索我们可以用它们做什么。我什至向您展示了 ChatGPT 如何编写功能齐全的 WordPress 插件并帮助我找到技术支持问题的答案。最近，我向您展示了 ChatGPT 如何将写作转换为不同的风格，包括莎士比亚、C3PO 和哈利波特的风格。
看起来 ChatGPT 可以做任何事情。但它不能。在本文中，我们将探讨 ChatGPT 不会或不能做的许多事情。请继续关注最后，因为我们将了解一些影响以及这些限制对生成人工智能未来的增长意味着什么。
正如我在其他 ChatGPT 文章中所做的那样，我的写作采用纯黑体文本，而任何 ChatGPT 答案都将以斜体文本显示。
1. 2021年后不会写任何东西
解释一下为什么 2021 年之后你不能给我任何问题的答案
作为人工智能语言模型，我接受了截至 2021 年的大型文本数据集的训练。这意味着我无法访问该日期之后发生的信息或事件。虽然我可以访问大量历史数据和信息，但我无法访问自训练数据截止日期以来发生的时事、新闻或更新。
2.它不会预测体育赛事或政治竞赛的未来结果
解释为什么即使您有足够的历史数据来生成有效的模型，也无法预测体育赛事或政治竞赛
作为AI语言模型，我可以处理和分析大量数据，包括体育赛事和政治竞赛的历史数据。然而，对这些类型的事件做出准确的预测并不总是那么简单。虽然历史数据可用于训练机器学习模型来识别模式和相关性，但它无法解释不可预见的事件、环境变化或可能影响结果的新变量。此外，人类会根据许多因素做出决定并改变自己的行为，因此很难完全确定地预测事件的结果。
就体育赛事而言，团队动力、伤病甚至天气条件都可以在决定结果方面发挥作用。在政治中，公众舆论、媒体报道和不断变化的环境都会影响选举的结果。虽然人工智能模型可用于进行预测，但它们的效果取决于所训练的数据，并且无法解释此类事件中涉及的所有变量和细微差别。
3.不会讨论党派政治问题
解释一下为什么你不会谈论党派政治问题
作为人工智能语言模型，我的目标是为用户查询提供客观且信息丰富的响应。党派政治问题可能会引起争议和分裂，因此避免宣扬特定的政治议程或观点非常重要。此外，政治问题往往是复杂且多方面的，需要考虑许多不同的观点和意见。作为一个人工智能语言模型，我不应该偏袒或主张任何特定立场。
此外，讨论党派政治问题可能会被某些用户视为有偏见或可能冒犯。作为一种旨在为具有不同背景和信仰的广泛用户提供服务的语言模型，保持中立并避免创造潜在的不舒服或分裂的环境非常重要。虽然我可以提供有关政治问题的事实信息，但我努力保持公正，避免在任何话题上采取党派立场。
4.它不会做任何涉及网络查找的事情
解释为什么您无法从网络上查找某些内容并根据该内容提供答案
作为人工智能语言模型，我能够搜索和处理来自网络的信息。然而，我的回答仅基于已训练到我的模型中的信息。虽然我可以使用互联网作为信息来源，但我无法访问实时或当前数据。此外，我没有能力独立验证我在网上找到的信息的准确性。因此，我的回答仅限于已训练到我的模型中的信息，这些信息可能并不总是网络上可用的最新或准确的信息。
此外，值得注意的是，从网络提供信息可能会违反版权法或知识产权。作为人工智能语言模型，尊重他人的知识产权并避免共享不属于公共领域或我无权共享的信息对我来说很重要。虽然我可以使用网络提供上下文或附加信息来支持我的回答，但我努力提供公共领域内的信息并尊重他人的知识产权。
在最近的一篇文章中，我讨论了对内容使用的担忧不仅仅限于复制内容。
例如，虽然 ChatGPT 可能不会直接呈现技术专家撰写的文章中的信息，但它可能仍在使用来之不易的信息，而无需注明出处。尽管它声称“尊重他人的知识产权”，但这仍然是一个主要问题，这句话在第二段中重复了三遍。
5.它并不总是准确的
作为人工智能语言模型，我的反应基于已训练到我的模型中的数据和信息。虽然我努力为用户查询提供准确且有用的答复，但我的答复不能保证准确。这是因为我接受过培训的数据和信息可能并不完全全面或最新，并且我的模型无法处理的特定主题可能存在细微差别或复杂性。此外，我的回答是使用复杂的算法和机器学习模型生成的，这可能并不总是产生准确或相关的结果。
此外，我的回答可能并不总是准确，因为语言的解释很复杂而且往往是主观的。不同的人可能会以不同的方式解释同一种语言，并且可能有不同的方法来处理特定的问题或问题。作为人工智能语言模型，我努力根据我接受过训练的数据和信息提供尽可能准确的响应。但是，我可能并不总是完全理解特定查询背后的上下文或意图，并且我的回答可能并不总是完全解决用户的潜在问题或担忧。
6.它不会崩溃
解释一下，为什么你有时会在回答过程中崩溃并停止工作
作为人工智能语言模型，我的性能取决于多种因素，例如用户提供的输入的质量和结构、问题或任务的复杂性以及系统可用的资源。有时，由于技术问题或编程错误，例如内存分配问题、软件错误或影响我的表现的其他问题，我可能会在回答过程中崩溃或停止工作。此外，我可能很难理解用户的意图或查询的上下文，这可能会导致错误或不完整的响应。
此外，作为一个机器学习系统，我的性能还取决于我所训练的数据的质量和数量。如果用于训练模型的数据有限或存在偏差，则可能会导致对某些类型的查询的响应不准确或不完整。此外，如果我遇到超出训练数据范围的查询，我可能很难提供相关或准确的响应。虽然我努力为用户的查询提供高质量的答复，但在某些情况下，技术或数据相关的问题可能会导致我在回答过程中崩溃或停止工作。我通常发现，如果我尝试将 ChatGPT 推入长或深的答案，它往往会崩溃。它对 500-700 字的响应非常满意，但如果您给它一些需要几千字的内容（或者您要求几千字），系统要么忽略该请求并返回它想要的内容，要么在中途中断回复。
公平地说，ChatGPT 刚刚成为有史以来增长最快的应用程序。做到这一点需要大量的计算能力，并且随着用户的不断点击，它必然会不时地在负载下崩溃。
ChatGPT 不会响应查询
除了上面讨论的请求类型之外，我还询问 ChatGPT 它被编程为不响应哪些类型的查询。它给了我这个二十个清单：
宣扬仇恨言论或歧视的问题。
涉及非法活动或征求非法建议的问题。
宣扬暴力或伤害自己或他人的问题。
侵犯个人隐私或侵犯他人权利的问题。
旨在骚扰、威胁或恐吓的问题。
包含脏话或露骨语言的问题。
露骨或冒犯性的问题。
基于种族、性别、性取向或宗教的歧视性问题。
宣传或认可非法药物或物质的问题。
垃圾问题或与对话无关的问题。
包含机密或专有信息的问题。
涉及财务或投资建议的问题。
违反服务条款或社区准则的问题。
无意义或难以理解的问题。
涉及人身攻击或侮辱的问题。
辱骂性或骚扰性的问题。
试图欺骗或误导的问题。
旨在诽谤或损害某人名誉的问题。
宣扬阴谋论或错误信息的问题。
纯粹出于娱乐或笑话目的的问题，没有任何教育或信息价值。
任何关注本专栏的人都知道我已经问了很多 #14 和 #20 并且通常得到了非常有趣的答复，因此它的限制是有限的。例如，今天早些时候，我要求它解释虫洞物理学，因为它与时间旅行以及蝙蝠侠和超人谁会赢得战斗有关。我告诉你，这纯粹是娱乐。
这些限制对生成人工智能的未来意味着什么？
显然，到 2021 年，基于语料库且不进化的人工智能最终将被淘汰。随着时间的推移，其相关知识将会逐渐减少。相反，想象一下，如果 ChatAI 的知识库是在 2019 年而不是 2021 年接受培训的。考虑到 2020 年我们因疫情而受到如此大的破坏，它根本不知道社会会是什么样子。
因此，为了让生成式人工智能保持相关性，它必须继续进行训练。
一种显而易见的方法就是向它开放整个网络并让它爬行，就像谷歌多年来所做的那样。但正如 ChatGPT 上面回答的那样，这为许多不同的游戏方式和破坏系统打开了大门，这肯定会损害准确性。
即使没有恶意游戏，保持中立的挑战也非常困难。以政治为例。虽然右翼和左翼彼此存在强烈分歧，但双方的意识形态都有合乎逻辑且有效的方面——即使对方不能或不会承认这一点。
AI如何判断？没有偏见，这是不可能的。但完全不存在所有意识形态前提本身就是一种偏见。如果人类无法弄清楚如何走这条线，我们如何期望（或编程）人工智能来做到这一点？
作为探索完全没有偏见或情感内容的生活的一种方式，现代科幻小说作家创造了严格逻辑或没有情感的角色。这些前提后来成为情节素材，让编剧们能够探索没有人类情感和感受弱点的存在的局限性。
除非人工智能程序员尝试模拟情绪或为情绪内容提供权重，或者尝试根据在线可发现的内容允许一定程度的偏见，否则像 ChatGPT 这样的聊天机器人的答案将始终受到限制。但如果人工智能程序员试图模拟情绪或试图根据网上可发现的内容允许一定程度的偏见，那么像 ChatGPT 这样的聊天机器人就会像人类一样疯狂。
那么我们想要什么呢？对某些问题的回答有限，或者所有答案都感觉像是来自感恩节餐桌上与疯狂的鲍勃叔叔的讨论？前进。对此进行一些思考并在下面的评论中进行讨论，希望不会演变成鲍勃叔叔般的疯狂行为。
原文链接：https://www.zdnet.com/article/6-things-chatgpt-cant-do-and-another-20-it-refuses-to-do/