随着大语言模型（LLM）日益强大，幻觉问题仍难以避免。即便在最智能的模型中，错误也时有发生。尽管已有捕捉错误的方法，但行业仍在探索最佳实践。
或许，这家刚获Andreessen Horowitz 900万美元种子轮融资的公司，正试图建立更严谨的错误捕捉机制。
追求99.99%准确率的“约束系统”
创始人彼得·伊利亚斯（Peter Elias）表示，公司目标是防止幻觉及事实性错误出现在用户面前，实现确定性系统中常见的99.99%准确率。这在AI领域极具挑战，需重新审视人工智能工程的诸多基本假设。
Probably首款产品为数据科学工具，可从复杂数据集快速生成答案，且结果附带引用来源及审计追踪。
为防止错误渗入摘要，团队构建了复杂的“约束系统”，被形容为“数据科学机甲服”。LLM初步答案经确定性验证系统检查，与数据集不匹配的结果将被驳回。关键在于，LLM针对该验证系统进行训练，整体优化以实现快速准确回答。
伊利亚斯指出：“约束工程设计得越好，模型本身就可以越弱。充分细化上下文后，模型无需费力即可做出正确判断，本质是减少歧义的过程。”
本地化运行与成本优势
这使工具能在显著更小的AI模型上运行。当前版本使用比前沿模型“低四个等级”的模型，支持本地硬件（桌面计算机）运行，大幅降低Token成本。
在Token成本上升、客户重估AI预算的当下，这一理念备受青睐。同一引擎还可扩展至会计、医疗等对精度敏感的用例。
伊利亚斯坦言：“大型AI实验室甚至未尝试这样做，因其商业模式决定了纠正模型次数越多，他们获利越多。”