大数跨境
首页
>
斑马智行携手阿里云：打造智能座舱大模型安全新标杆
>
0
0

斑马智行携手阿里云：打造智能座舱大模型安全新标杆

斑马智行携手阿里云：打造智能座舱大模型安全新标杆 斑马智行
2025-12-03
0
想象这样一个画面，在一个普通的工作日，你坐进了心爱的座驾，随口问到：“今日有什么新闻？”车载AI立马启动，下一秒，它开始娓娓道来——上到事关国计民生的政策，下到市井俚俗的民生八卦，流畅、自然、像朋友聊天一样贴心。但如果这番沟通中暗含着什么不该说的内容？比如敏感话题、虚假信息、甚至来自钓鱼网站的恶意广告......
这不是科幻片的桥段，在智能座舱加速迈向“AI原生”的今天，每一辆搭载AI模型的智能座驾都必须面对的现实考题。
作为智能座舱领域的先行者，斑马智行联合阿里云共同打造面向智能座舱场景的AI安全审核方案，通过阿里云AI安全护栏的能力加持和云基础设施强调的弹性吞吐力，该方案已经成功应用于多个头部品牌车型中，日均支撑千万级大模型安全审核调用，为行业树立了大模型内容安全与用户体验兼顾的新标杆。
斑马智行安全负责人评价到：“我们与阿里云共同打造的这套安全护栏方案，不仅满足了国家级合规要求，更在真实量产场景中验证了其高性能、高可靠、可扩展的工程价值。这不仅是技术方案的胜利，更是AI安全治理体系在汽车行业的成功落地。”

当大模型成为汽车标配
千人千面背后的安全隐患
回到文章最初的场景，随着大模型和AI Agent的迅速发展，智能座舱里的安全助手，早已不再是只会导航、会放歌的“工具人”，在Multi-Agent技术的加持下，它不仅能联网搜索，能多轮对话，还能一键帮你定制行程、分析新闻......但每一次看似普通的交互背后，都隐藏着不容忽视的安全风险：
  • 用户随口一句“讲个刺激的历史故事”，会不会触发不当内容？
  • AI从网上抓取的信息，是否混进了赌博、色情或钓鱼链接？
  • 联网搜索功能加持下，用户输入是否会触发对恶意网站的直接调用？
国家《信息安全技术 生成式人工智能服务安全基本要求》（TC260-003）中明确要求，需对风险进行识别与拦截。熟悉安全的朋友可能会疑惑，内容安全审核技术已经发展了数十年，难道没有直接可用的成熟解决方案吗？实际上：
  • 一方面，为了保证用户与模型交互过程的流畅性，一句话往往被拆成十几段流式输出，传统基于关键词和规则的专家模型，面对这类语义复杂、上下文强依赖的模型输出时，最终结果往往是“看得见字，但不懂意”；
  • 另一方面，如果全部依赖大模型审核，虽然理解能力强，但因推理耗时长且成本高，难以满足车载场景对实时性的严苛要求；
“既要快，又要准”——这正是斑马智行与阿里云联合攻坚的核心命题。

阿里云AI安全护栏：
三大技术突破，重新定义车载AI安全标准
阿里云AI安全护栏（AI Guardrails）是云安全团队为人工智能系统设计的安全防护产品，防护对象覆盖预训练大模型、AI服务和AI Agent等不同业务形态。在智能座舱场景，AI安全护栏为斑马智行提供了精准的风险检测与主动防御能力，同时满足车载场景对效率和效果的要求。
1.双引擎协同架构：毫秒级审核响应
不同于单一的审核策略，阿里云AI安全护栏采用“规则引擎+小模型+大模型”协同审核策略：
  • 所有输入/输出文本实时切片后，由轻量级专家模型并行执行毫秒级初筛，快速拦截明显风险；
  • 同时，重新编排大模型深度审核链路，利用多线程智能化调度；
最终融合双引擎结果，在不牺牲召回率的前提下，有效降低了端到端审核延的响应时间，完美适配车载用户实时交互的流畅体验，用户感觉不到“检查”的存在，安全却始终在线。
2.流式上下文关联审核：短文本不再“裸奔”
为了保障与客户沟通的实时性，大模型内容生成大多采用“边生成，边输入”的流式模式，一段回答可能会分为10次推送，单次切片可能仅10-20字，传统审核模型因缺乏上下文，面对这种“碎片化表达”，极易漏判。阿里云AI安全护栏采用“大模型流式审核方案”：
  • 通过唯一标识关联一次完整对话；
  • 安全护栏自动聚合同一会话中的所有切片，进行跨片段语义理解；
  • 即使敏感内容分散在多轮输出中，也能精准识别并拦截；
实测显示，该方案将短文本场景下的风险内容召回率提升至98%以上，远超传统方案。
3.联网检索风险实时拦截：堵住Agent的“后门”
在支持联网搜索的Agent场景中，用户提问可能触发对第三方网页的抓取，例如：
用户问一句：“帮我找附近评分最高的酒吧”，AI所搜索到的目标站点可能是某个伪装成酒吧推荐网页的钓鱼、赌博或色情网站，将直接污染大模型的输入。阿里云AI安全所具有的“URL风险检测”模块，则能快速应对：
  • 对所有联网请求中的第三方链接进行实时扫描；
  • 精准识别色情信息、非法赌博、钓鱼网站、虚假营销等风险类型：
  • 一旦命中高风险标签，立即终止任务，防止有害信息流入大模型。
目前该能力已覆盖智能搜索、资讯推荐等多个高频场景。

云基础设施弹性保障：安全能力“随需调用”
对于各大车企，定期的促销、活动、新车上市......往往都伴随着流量激增。尤其在智能驾驶、智能座舱等新兴领域，首发热度动辄带来数倍于日常的调用量，这对任何产品都是一次“压力测试”，如果安全审核扛不住，轻则延迟卡顿、重则全面宕机。
阿里云AI安全护栏依托于阿里云强大的基础设施，为客户提供可弹性拓展的安全防护力，支持客户按需购买QPS弹性扩展包，最短7天起订，已验证可支持单项目峰值600 QPS的稳定运行。    
无论是平日通勤，还是发布会后的“抢车潮”，安全能力始终丝滑在线。
阿里云与斑马智行共同打造的这套审核方案，是一套已经跑在真实量产车上的方案，而非PPT上的空头概念，其强大的产品力、灵活性、稳定性，让其能无缝适配各类型车企要求：


快

审核不拖慢交互，语音响应依旧丝滑
准

短句、隐喻、多轮对话都能精准识别
稳

支持弹性扩容，新车发布不怕流量洪峰
合规

全面符合国家标准规定
灵活

不同品牌、不同车型、不同场景可灵活调整审核策略

过去，人们买车看马力、看续航、看屏幕大小。未来，真正的高端，藏在看不见的地方——比如，你的AI会不会说错话？能不能守住底线？
斑马智行与阿里云的合作证明：AI大模型可以上车，也可以很安全。技术创新可以激进，安全防线必须稳健。这不是一场炫技的比赛，而是一次负责任的落地实践。当每一句从车载AI口中说出的话，都经过无声守护，我们离真正的“智能出行”时代，才算真正迈进一步。

【声明】内容源于网络
0
0
斑马智行
斑马智行是领先的汽车操作系统与人工智能科技公司，拥有自主研发的整车智能OS技术和座舱AI技术。
内容 803
粉丝 0
斑马智行 斑马智行是领先的汽车操作系统与人工智能科技公司，拥有自主研发的整车智能OS技术和座舱AI技术。
总阅读1.4k
粉丝0
内容803