去年六月，OpenAI发布ChatGPT仅数月后，纽约市一对律师因使用该工具撰写诉状而引发争议。该AI引用了虚假案例，导致法官震怒、律师尴尬。此事表明，尽管ChatGPT等工具颇具辅助价值，但在法律场景下必须严格核查其输出结果。
法律软件公司LexisNexis同样关注此案。该公司致力于提供判例检索工具以支持法律主张，既看到了AI在减少琐碎法律工作方面的潜力，也清醒认识到生成式AI落地过程中存在的现实风险。
LexisNexis首席技术官Jeff Reihl深知AI的价值，公司长期将相关技术融入平台。他认为，为法律工具箱增添类ChatGPT功能，可辅助文书撰写并加速案例检索，从而提升律师工作效率。
Reihl对TechCrunch+表示：“我们组织多年来一直在与人工智能技术打交道。自11月ChatGPT发布以来，真正截然不同的地方在于生成文本的机会以及随之而来的对话功能。”
尽管他看好在现有法律软件之上构建AI层级的前景，但也强调伴随的风险：“通过生成式AI，我们看到了这项技术的力量和局限性。因此，将自身能力、数据与大语言模型相结合，才能为法律行业带来根本性变革。”
调查表明……
LexisNexis近期对1,000名律师进行了关于生成式AI职业潜力的调查。数据显示总体态度积极，但律师们对技术弱点的认知也在一定程度上抑制了热情。
例如，46%的受访者认为AI对其职业“有一定影响”，38%认为有“重大影响”。尽管这些主观看法受限于技术尚处评估阶段及市场炒作，但结果表明大多数受访律师至少看到了生成式AI的工作辅助潜力。
需注意，供应商主导的调查在问题设置及数据解读上可能存在偏见，但整体数据仍有助于了解律师群体对该技术的看法。
核心挑战在于如何信任AI提供的信息，LexisNexis正多措并举建立用户信任。
应对AI已知的问题
信任问题是所有生成式AI用户面临的共性难题，Reihl表示公司深刻理解这对客户的特殊意义。
他指出：“鉴于职业性质，律师的工作必须100%准确。他们必须确保引用的案例仍是有效法律，且能正确代表客户利益。若无法最佳履职，可能面临吊销执照的风险。而我们始终有能力为客户提供可靠信息。”
伦敦玛丽女王大学博士研究员Sebastian Berns在接受TechCrunch采访时指出，任何部署的大型语言模型都会产生幻觉，这是无法避免的。
他表示：“大型语言模型（LLM）通常被训练为始终产生输出，即使输入与训练数据大相径庭。标准LLM没有任何方法来判断自己是否能够可靠地回答查询或做出预测。”
AI模型注定要永远产生幻觉吗？
LexisNexis正通过多种方式缓解这一问题。首先，利用庞大的法律数据集训练模型，以抵消基础模型的可靠性缺陷；其次，使用数据库中最新的案例法，避免像ChatGPT那样因训练数据截止于2021年而产生的时间滞后。
公司认为，更相关、及时的训练数据能产出更好结果。“我们可以确保结果中引用的任何案件都存在于数据库中，不会发布不存在的案例引用。”
虽然完全消除幻觉尚不确定，但LexisNexis通过提供来源参考，让律师能够查看AI得出答案的依据。
Reihl表示：“通过将大语言模型的强大能力与自有技术结合，并向用户提供案例参考以供自行验证，我们能够解决这些局限性。”
目前该项工作仍在进行中，LexisNexis正与六家客户合作完善该方法，计划在未来几个月内推出AI驱动工具。