Elloe AI 创始人欧文·萨卡瓦（Owen Sakawa）希望将平台打造为“AI 的免疫系统”及“AI 代理的杀毒软件”。在日前举行的 TechCrunch Disrupt 大会上，作为 Startup Battlefield 创业大赛前20强决赛选手，萨卡瓦阐述了该理念：旨在为企业大语言模型（LLM）增设防护层，以检测偏见、幻觉、错误、合规风险、虚假信息及不安全输出。
“AI 正以极快速度发展，且在缺乏护栏、安全网及防脱轨机制的情况下飞速前进，”萨卡瓦表示。
Elloe AI 本质上是一个 API 或 SDK，即位于 LLM 管道之上的基础设施模块。它会对模型的每一次回复进行事实核查，并拥有独特的层级架构——“锚点”：
- 事实核查锚点：依据可验证来源对 LLM 回复进行核验；
- 合规审查锚点：检查输出是否违反 HIPAA、GDPR 等法规，或泄露个人私有信息（PII）；
- 审计轨迹锚点：记录所有决策过程，允许监管机构或审计人员分析模型的思维路径、决策来源及置信度分数。
值得注意的是，Elloe AI 并非基于 LLM 构建。萨卡瓦认为用 LLM 检查 LLM 无异于“创可贴贴在伤口上”，因此该系统采用机器学习等技术，并由人工团队持续跟进数据保护与用户安全方面的最新法规。
