AI“忠实的不确定性”技术：平衡回答自信与准确性
“忠实的不确定性”技术使AI模型在输出最佳猜测时保留合理余地，避免过度自信或盲目拒答。该方法旨在让模型表达怀疑的措辞与其内部置信度保持一致，以解决当前应对幻觉问题的权衡困境。
传统策略强制模型在不确定时放弃回答，虽能降低错误率，却会导致大量正确答案丢失。例如在某案例中，为将错误率从25%降至5%，竟牺牲了52%的正确回答。
该技术对代理型AI（agentic AI）尤为关键。模型若能准确感知自身不确定性，便可智能决策何时触发网络搜索或调用外部工具，而非依赖僵化的始终搜索规则。不过，如何可靠地教会模型精准识别不确定性，仍是当前亟待解决的难题。