时间 |
培训主题 |
培训内容 |
第一天：人工智能安全基础 |
||
上午9:00-12:00 |
人工智能安全基础 |
Ø 人工智能基础知识 Ø 人工智能安全发展现状 Ø 人工智能安全风险态势 Ø 人工智能赋能网络安全 |
中午12:00-14:00 |
午餐&休息 |
|
下午14:00-17:00 |
人工智能安全政策标准 |
Ø 人工智能安全国家战略 Ø 人工智能安全法规政策 Ø 人工智能安全标准规范 Ø 人工智能监管行业要求 |
第二天：人工智能安全风险管理 |
||
上午9:00-12:00 |
人工智能安全风险 |
Ø 人工智能风险管理基础 Ø 人工智能风险管理框架 Ø 风险识别与评估 |
中午12:00-14:00 |
午餐&休息 |
|
下午14:00-17:00 |
模型安全性内在风险机制 |
Ø 模型训练数据污染 Ø 模型投毒概述与分类 Ø 模型投毒实现方式 Ø 模型投毒影响及防御方式 |
第三天：模型安全性内在风险机制 |
||
上午9:00-12:00 |
模型安全性内在风险机制 |
Ø 模型后门植入机制 Ø 后门攻击概述 Ø 后门攻击方式详解 Ø 隐蔽性、持久性与植入可控性分析 Ø 不同应用场景下的攻击 Ø 后门攻击的防御策略 |
中午12:00-14:00 |
午餐&休息 |
|
下午14:00-17:00 |
大语言模型安全风险 |
Ø 安全边界突破 Ø 越狱的定义与潜在影响 Ø 安全对齐机制的局限性 Ø 基于提示工程的突破技巧 Ø 基于内部机制的越狱方法 Ø 大模型安全风险防御 |
第四天：大语言模型安全风险与测评场景 |
||
上午9:00-12:00 |
大语言模型安全风险 |
Ø 训练数据泄漏与隐私推断 Ø 数据记忆原理与隐私悖论 Ø 模型内部数据内容风险 Ø 成员推断与模型反演 Ø 通过特定提示引发的信息泄漏及防御 Ø 人工智能安全保障框架设计与实施 |
中午12:00-14:00 |
午餐&休息 |
|
下午14:00-17:00 |
大模型应用安全 |
Ø 大模型知识库应用安全 Ø 大模型知识库的构建蓝图 Ø 大模型知识库在不同领域的应用 Ø 知识库安全防线 Ø RAG系统安全 Ø RAG技术架构与工作流 |
第五天：大模型应用架构安全测评 |
||
上午9:00-12:00 |
大模型应用安全 |
Ø 攻击面分析与威胁建模 Ø RAG知识库投毒与间接提示注入 Ø RAG攻击安全防御 Ø 智能体安全 Ø 智能体架构与生态概述 Ø 智能体风险面分析 |
中午12:00-14:00 |
午餐&休息 |
|
下午14:00-17:00 |
大模型应用安全 |
Ø 大模型应用安全 Ø 面向智能体架构的攻击方式 Ø 任务劫持与拒绝服务 Ø 智能体攻击防御 Ø 智能体应用介绍 Ø 人工智能应用实操管控 |