图1. 安全可信基础大模型关键技术与产业应用研讨会参会委员、嘉宾合影
本次研讨会旨在凝聚各方智慧，聚焦安全可信基础大模型关键技术瓶颈，拉通技术研发与产业应用的壁垒，推动协同创新与交流合作，为我国安全可信大模型相关技术和应用发展提供有益探索和实践参考。会议由中国科协信息科技学会联合体主办，由中国通信学会、中国汽车工程学会承办，由中国通信学会人工智能技术与应用专业委员会、中移九天协办。
高同庆主任指出，以大模型为代表的新一代人工智能正加速演进为数字中国建设的重要基础设施，安全可信已成为决定大模型能否落地应用和规模化发展的关键因素。他强调，应将安全可信贯穿数据构建、模型预训练、后训练到推理部署和应用的全生命周期，推动安全可信能力成为大模型的内生属性。安全可信基础大模型是一个跨学科、跨行业、跨场景的系统工程，需要汇聚产、学、研、用多方主体协同推进，推动相关技术在关键行业和重要场景中稳妥、可靠、可持续的落地实践。
图2. 高同庆 中国移动科技委副主任、GTI主席、中国通信学会副理事长、人工智能专委会主任委员
在“安全可信基础大模型关键技术”的报告环节中，重庆长安汽车股份有限公司原产品 CEO、中国汽车工程学会理事、中国汽车工程学会会士吴礼军围绕“智能汽车研发数智化转型与产业新生态体系”的主题作报告，从新汽车、新生态、新架构出发，介绍智能网联新汽车在用户体验、场景设计和体系流程等方面的变化，并结合长安汽车在车用大模型应用中的实践，分享通过设定安全边界、开展红蓝对抗演练和坚持数据隐私底线推进安全可信探索的情况。
图3. 吴礼军 重庆长安汽车股份有限公司原产品CEO、中国汽车工程学会理事、中国汽车工程学会会士
中国科学院信息工程研究所研究员虎嵩林结合大模型发展历程和安全研究实践，分享当前大模型在技术机理不清、安全对齐困难、防御能力不足以及风险随应用场景不断扩展等方面面临的挑战，指出“大模型神通越高，风险越大”。他结合支撑国家主管部门开展安全治理工作的经验，介绍通过红蓝对抗等方式开展以攻促防、持续迭代提升大模型安全能力的探索，并强调大模型安全问题需要加强协同治理。
图4. 虎嵩林 中国科学院信息工程研究所、研究员
清华大学副教授、中国汽车工程学会人工智能分会副秘书长黄晋结合自动驾驶与车辆工程研究实践，介绍将自动驾驶与底盘控制融合开展研究的趋势，并分享团队在端到端自动驾驶、车端持续学习以及应对长尾场景方面的探索。他结合实车实验，介绍车辆在遇到复杂或异常场景时通过车端学习逐步提升应对能力的研究进展，并从底盘构型创新的角度，展示分布式电驱动、轮端独立控制等技术带来的车辆运动能力变化，指出具身智能在汽车领域具有广阔的应用空间。
图5. 黄晋 清华大学副教授、中国汽车工程学会人工智能分会副秘书长
中移九天大语言模型研发中心负责人孟繁宇结合多个实际案例，阐述大模型在引入联网检索能力以及跨语言应用过程中，可能出现的回音壁效应和文化偏见现象。他进一步介绍九天大模型在安全可信方面的相关实践，包括从预训练阶段重视数据源头治理，在后训练过程中引入价值约束机制，并通过价值观对齐与验证手段，对模型安全问题开展持续探索。
图6. 孟繁宇 中移九天大语言模型中心部门负责人
在“安全可信基础大模型产业应用”的报告环节中，中国信息通信研究院人工智能研究所安全治理部高级业务主管静静以“AI+安全”为题，从产业实践角度系统梳理大模型、智能体和具身智能带来的新型安全风险，分析现有安全治理框架在新技术场景下面临的困境，并介绍信通院在大模型安全基准测试、人工智能漏洞库建设、标准化制定等方面的实践。
图7. 静静 中国信息通信研究院人工智能研究所安全部高级业务主管
中移九天行业赋能一中心部门负责人吴娜结合国家“人工智能+”行动政策背景，介绍九天大模型在产业领域的落地实践。她围绕九天大模型在全模态、全尺寸、全场景方面的能力特点，分享在网络运营、能源、物流、航空、农业、数字政府等行业中，依托行业数据、结构化大模型和平台化能力推进人工智能应用落地的相关情况，并介绍九天在服务央企和重点行业过程中形成的应用模式和实践经验。
图8. 吴娜 中移九天行业赋能一中心部门负责人
国家智能网联汽车创新中心数智事业部副总工程师、中国汽车工程学会人工智能分会副秘书长王瑶围绕“智能网联汽车行业可信数据空间构建路径与实践探索”的主题作报告，结合智能网联汽车行业实际，介绍可信数据空间在数据共享与安全合规方面的作用，并围绕自动驾驶开发和测试场景，分享通过示范区数据加工形成数据产品、支持量产测试应用的探索实践。
图9. 王瑶 国家智能网联汽车创新中心数智事业部副总工程师、中国汽车工程学会人工智能分会副秘书长
会议最后围绕《安全可信基础大模型关键技术与产业应用》研究报告开展专家评审与研讨。该报告依托中国科协信息科技学会联合体，由中国通信学会、中国汽车工程学会和中移九天等单位共同完成，是联合体组织建设项目形成的阶段性成果。与会专家结合各自研究和实践经验，对报告内容提出意见建议。
安全可信基础大模型关乎数字中国建设的安全底座，关乎新一轮科技革命和产业革命的主动权，也关乎每一个普通用户对智能时代的信任和信心。我们将以本次研讨会为契机，在规则共建、标准共识的基础上，携手产、学、研、用各方力量，推动整个产业在有边界、有秩序的条件下健康发展。
供稿：九天市场与生态部
编辑：秦睿含、张致宁
复审：潘璐、罗丹