一些新西兰律师在与人工智能 ChatGPT 聊天的过程中，被 AI 所虚构的案例记录而欺骗；
研究人员表示，这项技术将不可避免地进入法律行业和其他行业。
律师协会在上个月的一份会员通讯中透露，其法律图书馆员已收到有律师索取案件信息的请求，
而这些案件是虚假的——大概来自那些一直在使用 ChatGPT 等工具的人。
“这些案例看起来是真实的，因为 ChatGPT 已经知道案例名称和引文应该是什么样子。
但是，图书馆工作人员的调查发现，其所说的案例是虚构的，”律师协会说。
“ChatGPT 会在无法获得足够数据的情况下胡说八道，捏造事实和来源。”
“所以下次你使用 ChatGPT 进行法律查询时，请记住其回复中引用的案例可能是假的。这是由一个 AI 工具编造的。”
奥克兰大学商法教授亚历克斯·西姆斯（Alex Sims）表示，法律界人士应该加快了解新工具如何帮助他们的工作。
但 1News 采访的法律学者对人们使用这些新软件工具持谨慎态度，因为他们并没有完全了解，一旦 AI 给出错误的回复后所带来的风险。
“一些律师不加区别地使用它确实令人担忧。这几乎是懒惰的，”
西姆斯说：“他们需要知道如何使用它们，并且实际上拥有（法律）专业知识才能知道回复的内容是否准确。”
虽然像 ChatGPT 这样的聊天机器人功能强大，但它们无法判断哪些信息是真实的。
西姆斯补充说，将自己机密信息输入到当今的聊天机器人中也“非常危险”，因为大多数聊天机器人都会存储用户写的内容。
上个月，ChatGPT 的所有者表示，它将在一定程度上取消长期以来使用用户数据来训练新人工智能模型的做法。
“你将公司信息放入 ChatGPT 之类的东西中是愚蠢的，
因为那样它就会成为数据库和你的机密信息的一部分——比如客户详细信息、个人信息——所有这些东西都在那里。”
西姆斯说，禁止人工智能辅助并不是一个好的选择，而律师和其他白领已经在使用这项技术来完成简单的任务，比如写电子邮件。
“魔鬼真的是从瓶子里出来的，”她认为。