AI风险管理框架1.0-NIST
目录
?摘要1
?Part1基础信息3
1.风险框架3
1.了解和处理风险、影响和伤害4
2.AI风险管理的挑战5
2.受众9
3.人工智能风险与可信度11
1.有效且可靠13
2.安全运行14
3.安全和弹性14
4.负责和透明15
5.可解释和可理解16
6.增强隐私保护16
7.公平——带有有害偏见管理17
4.AIRMF的有效性19
?Part2AIRMF核心和配置文件19
1.AIRMF核心19
1.治理Govern21
2.映射MAP23
3.测量Measure26
4.管理Manage29
2.AIRMF配置文件30
?附录31
1.附录A：31
1.图2和图3中对AI角色任务的描述31
2.其他AI角色33
2.附录BAI风险与传统软件风险有何不同34
3.附录C人工智能风险管理与人机交互36
4.附录DAIRMF的属性38
?摘要
人工智能（AI）技术具有巨大的潜力，能够从商业、健康、交通、网络安全
到环境和地球等多个领域改变社会和人们的生活。这些技术不仅能够促进包容性
的经济增长，还能支持科学进步，改善我们的世界。然而，AI技术也带来了风
险，可能对个人、群体、组织、社区、社会、环境和地球产生负面影响。与其它
技术的风险类似，AI的风险可以以多种方式出现，包括长期或短期、高概率或
低概率、系统性或局部性、高影响或低影响等特征。
AIRMF（人工智能资源管理框架）是指一种基于工程或机器的系统，
该系统能够根据给定的目标集生成预测、建议或决策等输出，这些输出影响
现实或虚拟环境。AI系统被设计为以不同自主程度运行（改编自：OECD
关于人工智能的建议：2019；ISO/IEC22989：2022)。
尽管有许多标准和最佳实践可以帮助组织减轻传统软件或信息系统的风险，
但人工智能系统带来的风险在很多方面是独特的（见附录B）。例如，人工智能
系统可能基于随时间变化的数据进行训练，这些数据有时会显著且意外地发生变
化，影响系统的功能和可信度，这种影响往往难以理解。由于人工智能系统及其
部署环境通常非常复杂，因此当故障发生时，检测和应对这些故障变得非常困难。
人工智能系统本质上具有社会技术特性，这意味着它们受到社会动态和人类行为
的影响。人工智能的风险与益处源于技术层面与社会因素的相互作用，包括系统
如何使用、与其他人工智能系统的互动、操作者是谁以及部署的社会背景。
这些风险使得人工智能成为一种对组织和社会而言都极具挑战性的技术。如
果没有适当的控制，人工智能系统可能会放大、延续或加剧个人和社区的不平等
或不良结果。有了适当的控制，人工智能系统可以减轻和管理不平等的结果。
人工智能风险管理是负责任地开发和使用AI系统的关键组成部分。负责任
的人工智能实践有助于确保AI系统的决策与设计、开发和使用的目标及价值观
相一致。负责任的人工智能的核心理念包括以人为本、社会责任和可持续性。通