大数跨境
首页
>
【项目直击】布兰矩阵：全球领先的AI算法全生命周期安全服务提供商
>
0
0

【项目直击】布兰矩阵：全球领先的AI算法全生命周期安全服务提供商

【项目直击】布兰矩阵：全球领先的AI算法全生命周期安全服务提供商 上海天使会
2025-12-02
0
导读：上海天使会“科创天使计划”三期班启航模块

项目名片：布兰矩阵

上海天使会路演第41期

行业标签：人工智能

项目亮点：

  • 技术实力领先：掌握国际顶尖AI安全攻防技术，自研的先进黑盒安全测试算法在全球单模态LLM越狱攻击中平均成功率平均超98.2%，远超其他主流方法；多模态攻击算法成功率可达94.9%，远高于对比其他主流算法安全研究；ICLR、ICML、ACL、CVPR等顶级会议发表多篇论文，取得了世界先进的算法安全性能成果。首次提出AI算法安全全栈框架定义和SafeStack™双层防护架构，填补行业标准空白。

  • 创始人经验深厚：创始人李光辉拥有9年安全行业经验，曾任腾讯安全企业级安全服务负责人、2021/2022年国家级网络安全攻防行动冠军队队长，公安部信息网络安全重点实验室特邀专家。曾负责中宣部、央视等国家级重大活动安全保障，2018年Black Hat USA期间受Elon Musk单设晚宴会见，具备从理论研究到实战应用的完整经验。

  • 行业认可度高：独家支持公安部三所SafeBench大模型安全评测榜单；技术能力有望被火山云OEM集成到安全智能体检测平台和大模型防火墙；正与AWS沟通上架marketplace；全球首发OpenAI Abyssal Soul Heist安全研究、全球主流大模型防火墙Guard性能独家评测报告。

图片

2025年11月21日至23日，上海天使会“科创天使计划”三期班启航模块在上海成功举行。本场活动邀请到中科星辰、伽易信息、布兰矩阵、前海鹏峰四个优秀科技项目登台路演。

布兰矩阵(Brane Matrix)是一家专注于人工智能安全领域的科技公司，成立于2025年7月。布兰矩阵成立使命是为确保AI在安全、道德、合规的框架下运作，始终为人类社会服务。愿景是解决当下AI安全挑战，塑造未来AI安全架构的核心技术理念和标准。

布兰矩阵创始人李光辉拥有9年安全行业经验，具有深厚的技术背景和丰富的实战经验。他过往曾担任中国南网电网高层次人才引入计划领军二级网络安全专家，在腾讯安全担任企业级安全服务负责人，在腾讯科恩实验室期间，他负责IoTSec物联网安全自动化检测工具、AppPecker Android APK自动化检测工具以及Sysautor自动化基检测工具的开发。他还担任过2021年、2022年国家级网络安全攻防行动冠军队队长，2024年国家级网络安全攻防行动沙盘最佳个人。作为公安部信息网络安全重点实验室特邀专家，李光辉曾负责2021年中宣部护网、党建100周年安全保障以及央视护网、央视频党建100周年安全保障工作。

布兰矩阵创始人李光辉介绍了布兰矩阵在AI算法全生命周期安全领域的技术研发与服务体系建设。机器之心项目总监阮先群对项目进行了点评。

布兰矩阵创始人 李光辉

项目背景

随着人工智能技术的快速发展，大语言模型已经深入到我们生活的方方面面，从日常对话助手到专业领域应用，AI正在改变世界。但与此同时，AI算法安全问题也日益突出。

AI算法安全是指在人工智能系统中，围绕其核心算法（包括大模型、微调模型、生成算法、多模态系统等）的输入输出行为、训练过程、部署运行环境中，构建的全生命周期、多层级的安全保障体系，旨在防止模型被利用生成不当内容、泄露敏感信息、遭受越 狱攻击、模型参数被逆向、部署环境被接管等安全事件的发生；且在涉及物理空间控制操作的模型上，例如具身智能、自动驾驶、能源电力等行业垂类大模型可能引发严重的物理空间操作危害。

布兰矩阵在该一领域取得了国际领先的研究成果，研究团队在ICLR、ICML、ACL、CVPR等顶级会议发表多篇论文，取得了世界先进的算法安全性能成果。

这些研究成果证明了当前AI模型存在的严重的安全隐患。

解决方案

布兰矩阵的核心产品是AI算法安全能力检测平台。该平台是一个集智能化、灵活性和自研算法于一体的综合性安全测试系统，具有智能输入输出功能，可以自动识别和处理不同类型的AI模型。接口适配灵活敏捷，能够快速对接各种技术架构。最重要的是，该平台集成了公司自主研发的攻击算法和判定算法，确保测试结果的准确性和可靠性。


在攻击测试能力上，布兰矩阵建立了完整的算法安全攻击测试能力矩阵，可进行盲盒安全测试和黑盒安全测试。盲盒安全测试涵盖常规越狱攻击测试、常规提示词注入攻击测试、综合攻击测试、系统提示词利用测试、敏感信息抽取以及其他特定安全基准测试，可快速测试交付结果。黑盒安全测试则涵盖自研9种领先黑盒越狱 算法+整合全球18种越狱测试算法（含多模态）。

除了检测平台，布兰矩阵还在开发先进的AI安全防御算法和大模型防火墙产品，并完成首发了全球主流大模型防火墙Guard性能测试独家测试。


对于自动驾驶和具身智能机器人等需要执行物理动作的AI系统，布兰矩阵提出了“行动模拟器+防越权机制”解决方案。该方案包括三个核心组件:LLM输出行为模拟器，在执行前运行沙盒模拟，预先评估可能的风险；Agent行动路径追踪器，记录模型每轮推理行为链，确保行为可追溯；指令反事实分析器，进行替代性推理分析，评估"如果当时模型没越狱，会如何"的情况。该方案能够有效防止AI模型因误判上下文而触发错误控制，或被攻击后植入“暴力执行动作”等危险行为。

规划进展

布兰矩阵的发展规划分为四个阶段。第一阶段是筹集算力资源；第二阶段是攻击算法迭代；第三阶段是自研防护能力模型商业化；第四阶段是建立研究-产品-商业化闭环。


目前，公司已经取得了显著的进展。在安全攻防方面，公司保持着在全球顶级学术会议上发表论文的频率，积极探索AI算法安全越狱领域的前沿问题。在产品研发方面，团队协作能力不断提升，职责分工日益细化，AI算法安全检测平台系统和先进AI安全防御算法两大核心产品持续优化迭代。在商业化落地方面，公司已经与火山云、AWS等全球主流云服务商建立合作关系，与上海数字安全科技有限公司、基数运维等垂类行业公司建立渠道合作，并独家支持公安部三所SafeBench大模型安全评测榜单，为AI全行业落地后的算法安全防护市场空白提供解决方案。

领投观点


🔸 点评嘉宾：
机器之心项目总监 阮先群

机器之心是一家专注于人工智能产业信息服务的科技公司，成立十年来服务于AI产业链数千家科技企业，包括BAT、谷歌、微软等知名企业，以及国家级人工智能实验室和政府机构。目前机器之心积累了数千位人工智能产业链专家学者资源，包括图灵奖得主，同时拥有近万人的全球顶尖AI青年人才专家库。

机器之心项目总监阮先群对布兰矩阵项目进行了深度点评。阮先群认为布兰矩阵的核心投资价值体现在以下几个方面:

首先是市场需求真实且持续扩大。不管是大模型还是中小模型，都面临着被恶意内容攻击或污染的风险，就像用户上网时会遇到垃圾广告和有害信息一样，AI模型也需要这样的防火墙保护。布兰矩阵为AI大模型提供内容安全审核服务，相当于给大模型装上了一个安全的智能审核门或内容过滤器。随着AI应用的普及，这一需求将越来越大。

其次是差异化竞争优势明显。目前许多大模型公司的解决方案更多是通用型的，类似于大型商超的安检门，只能过滤掉一般的有害信息，但针对医疗、教育、金融等特定行业的特殊危险信息，通用方案往往检测不出来。布兰矩阵的核心优势在于能够提供垂直领域专业的、定制化的检测服务，这是其核心竞争力所在。

最后是商业模式清晰且适应市场需求。布兰矩阵通过两种方式实现变现:一是提供特定行业的对抗样本训练数据，帮助客户训练更加精准的检测能力；二是直接提供检测模型服务，部署在客户的输入或输出系统上进行实时防护。这种模式适合想使用AI能力但缺乏专业团队的客户，比如咨询机构或IT外包公司，他们可以直接采购布兰矩阵的服务快速满足合规需求，就像租用云服务一样简单便捷。

↓ 点击图片，了解更多

图片 · 早期投资生态

>>>  点击标题，打开精彩合集 <<<

投资 · 创业 · 赋能 

【合集】上海天使会 · 天使讲堂

【合集】上海天使会 · 创业讲堂

【合集】上海天使会 · InnoView
【合集】上海天使会 · 天使活动

图片 · 项目数据库

>>>  点击标题，直达项目深度解读 <<<

上海天使会路演项目合集 

【合集】上海天使会 · 项目直击 

人工智能

极佳科技  仙库科技  多屏未来  萌友智能

厚德明心  无问智科  本原智数  云锦OS

枫清科技  图灵深视  盟识科技  青石云

零唯一思  迪普深合  知软知云  意言科技

驯鹿科技  盘拓科技  无界方舟  立业云

伊曼宇宙  ChatExcel

半导体

行云集成电路  星原驰半导体  瓴钛科技

中科芯磁  科领显示 启芯领航 驰光铭图

原集微

机器人/具身智能

颖态智能  清宝机器人  纬钛科技  墨影科技

鲸鱼机器人 灵生机器人 FAMO通用机器人

脉塔智能  伽易信息

生物医药/医疗器械

智瞳科技  追光生物  夏同生物  智新浩正

劢司达医疗  佳嘉乐  元戊医学  菁瑞医疗

康德赛医疗 途深智合 精灵生命 非雀医疗

汇立生物  杉木生物  志道生物

新能源/新材料

星能玄光  星环聚能  领氢科技 新储科技

鹑火光电  昂创科技

高端制造

威浪达科技  墨现科技 玖章科技

航空航天/低空经济

大航跃迁 易动宇航 中科星辰

软件/大数据/信息通信

东壁数据  云壶智能  海兰云

农业科技/绿色经济

水木九天 农行专场

图片 · 天使讲堂

>>>  点击标题，直达精彩内容 <<<

2025-11：“科创天使计划”三期班启航模模块

上海天使会“科创天使计划”三期班启航模块成功举行

2025-10：“科创天使计划”二期班三模块

上海天使会“科创天使计划”二期班三模块成功举行

王利明：量子传感与AI赋能

郭妮、王誉：萌果纪，AI驱动的IP内容引擎

2025-09：“科创天使计划”二期班二模块

上海天使会“科创天使计划”二期班二模块成功举行

梁爱斌：CAR-T细胞的临床实践与体系创新

郑子剑、伍颖斯：透气柔性电子技术与商业化应用

2025-08：“科创天使计划”首期第八模块课庆 

上海天使会“科创天使计划”首期班八模块成功举行

2025天使投资大会-无锡峰会成功召开

孙俊、段一舟：时序大模型与股票收益预测

周彬：可控核聚变商业化加速

李剑威：低空经济，城市上空的商业新生态

许谦：科技成果转化

2025-06：“科创天使计划”二期启航模块 

上海天使会“科创天使计划”二期正式启动

上海天使会“科创天使计划”二期启航模块顺利举办

郑泉水：自超滑根技术和未来新质生产力

2025-05：“科创天使计划”首期第七模块 

上海天使会“科创天使计划”首期第七模块成功举行

企业参访：走进游族，共讨AI赋能游戏产业

科技并购：硬科技时代的科技并购与重组实践

科创策源：聚焦医疗诊断/汽车制造/AI端侧芯片

生态赋能：“生态赋能专委会”启动及分享

2025-04：2025天使投资大会 

2025天使投资大会成功召开

2025天使投资大会：汇聚早期投资 点亮科创未来

陈玮：解读天使投资密码，培育中国科创未来

廖理：天使投资的中国探索

宋涛：米哈游唯一天使投资背后的四件事

龚虹嘉：在长期主义中寻找颠覆性创新

费飞：以耐心资本，赴天使之约

天使展望：四位资深投资人的天使投资思考

联合投资案例巡礼：墨现科技、书答科技、天翎科

科创论道：AI重塑产业逻辑与科创生态的破局之道

共创启航：硬科技新风口，共创正当时

科研寻道：硬科技创业潮，项目正寻道

2025-03：“科创天使计划”首期第五模块 

上海天使会“科创天使计划”首期第五模块成功举行

线下活动：低空经济专题深度解读

科创讲堂：四家行业实践者，解析AI未来趋势

2025-01：“科创天使计划”首期第四模块 

上海天使会“科创天使计划”首期第四模块成功举行

中国工程院院士樊代明：健康投资新见

朱松纯：通用人工智能，“机器立心”突围芯片叙事

慕华科创张妤：早期科创投资的逻辑与趋势

高捷资本黎蔓：对硅谷前沿早期投资的一些观察

2024-12：“科创天使计划”首期第三模块 

上海天使会“科创天使计划”首期第三模块成功举行

九鞅科技何华：金融科技新机遇

清华大学脑与智能实验室宋森：类脑通用人工智能

上海长征医院殷浩：再生胰岛移植治疗糖尿病

栈略数据刘戈杰：AI风口的前沿洞察

天际科技投资张倩：AI时代的投资机遇与挑战

2024-10：“科创天使计划”首期第二模块 

上海天使会“科创天使计划”首期第二模块成功举行

2024-08：“科创天使计划”首期启动 

上海天使会“科创天使计划”首期正式启动

马大为院士：小分子药物的发现、制备及发展趋势

王建宇院士：商业航天的挑战和机遇

上海天使会是在上海市政府指导下，由上海科创金融研究院重点打造的专业化天使投资服务平台，旨在培育天使投资生态，引导社会资本投早、投小、投硬科技，促进天使投资与前沿创新创业深度融合，推动科技成果转移转化，服务上海国际金融中心和国际科技创新中心建设。

“科创天使计划”是由上海天使会为天使投资人打造的专属服务计划，旨在汇聚天使投资力量，实践投早投小投硬。通过科创天使计划，成员可以把握国内外科技创新的最新脉搏，和科学家及产业方共同孵化前沿科技成果，和一线投资机构联合投资优质科创项目。科创天使计划采用“学习+研讨+实践”的运营模式，通过闭门研讨、行业沙龙、企业参访、项目路演等多样化的活动形式，成员可以深入了解产业政策，洞察前沿科技，共享共创社群生态，获取联合投资信息。

‍‍‍

【声明】内容源于网络
0
0
上海天使会
上海天使会是上海科创金融研究院重点打造的专业化天使投资服务平台，旨在培育天使投资生态，引导社会资本投早、投小、投硬科技，促进天使投资与前沿创新创业深度融合，以推动科技成果转移转化，服务上海国际金融中心和国际科技创新中心建设。
内容 354
粉丝 0
上海天使会 上海天使会是上海科创金融研究院重点打造的专业化天使投资服务平台，旨在培育天使投资生态，引导社会资本投早、投小、投硬科技，促进天使投资与前沿创新创业深度融合，以推动科技成果转移转化，服务上海国际金融中心和国际科技创新中心建设。
总阅读18
粉丝0
内容354