美国和英国网络安全机构 CISA 和 NCSC 为利用人工智能的系统开发人员发布了以安全为重点的指南。
该文件名为《安全人工智能系统开发指南》 ( PDF )，促进实施安全设计原则以及透明度和问责制，并优先考虑客户对安全结果的所有权。
两家机构指出，这些指南适用于所有类型的人工智能/机器学习系统，无论是从头开始构建还是在第三方资源之上构建，以解决与人工智能、网络安全和关键基础设施相关的问题。
该文件与20多个国内外网络安全组织合作制定，分为四个部分，涵盖人工智能系统开发生命周期的不同阶段，即设计、开发、部署和运维。
CISA 和 NCSC 表示，这些建议旨在与网络安全、事件响应和风险管理最佳实践结合应用，要求对功能、机制和工具进行投资，以在整个系统生命周期的各个层面保护客户数据。
两家机构指出：“提供商应尽可能在其模型、管道和/或系统中实施安全控制和缓解措施，并且在使用设置的情况下，默认实施最安全的选项。”
CISA 和 NCSC 还表示，提供商有责任告知用户无法缓解的风险，并建议他们如何安全地使用系统，并且应将所有网络安全风险视为至关重要。
建议提供商评估其系统面临的威胁，在设计阶段关注安全性、功能和性能，以确保其供应链、资产、基础设施的安全并持续保护其模型，实施事件响应，监控系统的行为和输入，并实施安全设计的更新方法。
两家机构表示，这些指南主要针对人工智能系统的提供商，这些系统要么由组织托管，要么通过外部 API 访问。然而，鼓励所有利益相关者，“包括数据科学家、开发人员、管理者、决策者和风险负责人”阅读该文件，“就其人工智能系统的设计、开发、部署和运营做出明智的决策”。两个机构注意到。
三正科技公司