纽约市公立学校已限制访问ChatGPT，该限制适用于学校网络和设备的访问。正如今天早上广泛报道并经纽约市教育局发言人向TechCrunch证实的那样，实施这一限制是由于对“对学生学习的负面影响”以及ChatGPT生成内容的“安全性和准确性”的担忧。
这位发言人在电子邮件中对TechCrunch表示：“虽然该工具可能能够快速轻松地回答问题，但它并不能培养批判性思维和解决问题的能力，而这些对于学术成就和终身成功至关重要。”他补充说，此次限制访问是应学校的请求而实施的。
这并非全面禁令，纽约市公立学校系统使用的是与屏蔽YouTube和Facebook等其他应用和网站相同的过滤器来阻止访问ChatGPT，各校可申请解除对ChatGPT的屏蔽，且发言人表示纽约市教育局将“欢迎”与ChatGPT背后的初创公司OpenAI展开对话，探讨该工具如何适应教育需求。
在寻求置评时，OpenAI的一位发言人表示，该公司正在开发“缓解措施”，以帮助任何人识别由ChatGPT生成的文本。这一点很重要。虽然TechCrunch最近报道称OpenAI正在实验一种用于人工智能生成文本的水印技术，但这是OpenAI首次确认其正在开发专门用于识别来自ChatGPT文本的工具。
OpenAI发言人表示：“我们提供ChatGPT作为研究预览版，以便从实际使用中汲取经验，我们认为这是开发和部署强大、安全的人工智能系统的关键部分。我们不断融入反馈和经验教训。”“我们始终呼吁对人工智能生成文本的使用保持透明。我们的政策要求用户在使用我们的API和创意工具时，必须向受众坦诚说明。……我们期待与教育工作者合作，探索有用的解决方案以及其他帮助教师和学生从人工智能中受益的方式。”
ChatGPT擅长回答从诗歌到编程等各种主题的问题，但其最大的缺陷之一是有时能给出听起来令人信服但事实上不正确的答案。这导致问答编程网站Stack Overflow暂时禁止用户分享由该人工智能生成的内容，称ChatGPT使用户过于容易地向平台充斥可疑答案。最近，国际机器学习大会（世界上最大的人工智能和机器学习会议之一）宣布禁止包含由ChatGPT和其他类似人工智能系统生成文本的论文，以免产生“不可预见的后果”。
在教育领域，争论主要集中在作弊潜力上。在Google上搜索“用ChatGPT写学校论文”，你会发现许多教育工作者、记者和学生尝试使用ChatGPT完成家庭作业和标准化作文测试的例子。《华尔街日报》专栏作家Joanna Stern使用ChatGPT撰写了一篇通过AP英语考试的论文，而Forbes的员工Emma Whitford则用它花了20分钟完成了两篇大学论文。在接受《卫报》采访时，亚利桑那州立大学教授Dan Gillmor回忆道，他给ChatGPT布置了一个他通常给学生布置的作业，发现AI写的论文本可以得“一个不错的成绩。”
抄袭是另一个担忧。与其他文本生成人工智能系统一样，ChatGPT——其训练数据来自公共数据，通常是在未经同意的情况下收集的——有时会逐字复述这些信息而不引用任何来源。这包括事实错误，如前所述，以及有偏见的——包括公然种族主义和性别歧视的观点。OpenAI继续引入过滤器和技术来防止问题文本生成，但新的变通方法每天都在出现。
尽管存在这些局限性和问题，一些教育工作者认为ChatGPT和其他形式的人工智能技术具有教学潜力。在斯坦福大学教育学院网站最近的一篇文章中，斯坦福大学教育学副教授Victor Lee指出，ChatGPT可能帮助学生“以他们目前不会的方式思考”——例如，帮助他们发现和澄清自己的想法。他还提出，教师也可以从ChatGPT中受益，通过为学生生成许多示例，其中基本内容保持不变，但风格、句法或语法不同。
“ChatGPT可能[允许]学生多次阅读、反思和修改，而不会经历这种过程通常引发的痛苦或挫败感，[同时]教师可以使用该工具作为生成某种形式或体裁的许多示例和非示例的方法，”Lee在一项声明中表示，“显然，教师对计算机为学生做了大量基础工作并不感到高兴。而且学生仍然需要学习写作。但究竟以何种方式、写什么样的文章？这种‘新疗法’的一个副作用是，它要求我们所有人去追问这些问题，并很可能对我们的教学总体目标和方法进行实质性的调整。”
无论如何，纽约市公立学校的这项政策——据信是美国同类政策中的首例——无疑将迫使其他学区展开相关讨论。随着该技术的使用日益普及——截至12月，ChatGPT的用户已超过一百万人——独立研究人员和公司已开始试点开发工具，用于检测学生提交作业中是否使用了人工智能生成的文本。一些教育工作者可能会选择接受这些工具，而另一些人，如李（Lee），则转而鼓励将ChatGPT作为辅助写作工具来使用。