Lakera是一家瑞士初创公司，致力于构建技术以保护生成式AI应用免受恶意提示及其他威胁。该公司近日宣布完成2000万美元A轮融资，由欧洲风险投资公司Atomico领投。
在ChatGPT等热门应用的推动下，生成式AI已成为当前AI浪潮的代表。然而在企业环境中，安全与数据隐私问题仍令业界担忧。
大型语言模型（LLMs）作为生成式AI的核心引擎，使机器能够像人类一样理解和生成文本。但无论应用场景是写诗还是总结法律合同，模型均需依赖指令引导输出。这些“提示”可能被恶意构造，诱骗应用执行非预期操作，例如泄露训练机密数据或未经授权访问私有系统。此类“提示注入”攻击日益严峻，正是Lakera着力解决的核心问题。
提示响应
Lakera于2021年在苏黎世创立，去年10月正式推出产品并获得1000万美元融资。其明确承诺帮助组织抵御LLM安全弱点（如数据泄露、提示注入）。该产品兼容主流LLM，包括OpenAI GPT-X、Google Bard、Meta Llama及Anthropic Claude。
核心定位上，Lakera是一款“低延迟AI应用防火墙”，用于防护进出成式AI应用的流量。
首款产品Lakera Guard基于整合多方见解的数据库构建，数据来源包括Hugging Face开源数据集、内部机器学习研究，以及互动游戏Gandalf。该游戏邀请用户尝试诱骗AI透露秘密密码，助力团队积累攻防经验。
随着关卡升级，游戏复杂度增加，被“黑客”攻破的难度也随之提升。这些互动帮助Lakera构建了“提示注入分类法”，将攻击行为细分为不同类别。
Lakera联合创始人兼CEO David Haber表示：“我们是以AI为先的公司，正构建自有模型实时检测提示注入等恶意攻击。模型从海量生成式AI交互中持续学习，识别恶意特征，并随威胁格局演变不断进化。”
通过集成Lakera Guard API，企业可有效防范恶意提示。此外，公司还开发了专用模型扫描提示及输出中的有害内容，配备针对仇恨言论、色情、暴力及粗俗语言的检测器。
Haber指出：“这些检测器对聊天机器人等面向公众的应用尤为关键，同时也适用于其他场景。”
与提示词防御工具类似，企业仅需一行代码即可集成Lakera内容审核功能，并通过集中策略控制面板按内容类型微调阈值。
凭借本轮2000万美元融资，Lakera将加速拓展全球市场，尤其聚焦美国。目前北美客户已涵盖知名AI初创公司Respell及加拿大超级独角兽Cohere。
Haber表示：“大型企业、SaaS公司及AI模型提供商正竞相推出安全的AI应用。金融机构因深知合规风险成为早期采用者，但各行业兴趣浓厚。多数企业意识到，必须将生成式AI融入核心业务流程以保持竞争力。”
除领投方Atomico外，Dropbox风投部门、Citi Ventures及Redalpine也参与了本轮融资。