NIST 人工智能风险管理框架 (AI RMF 1.0) 路线图_北京转创国际管理咨询有限公司广东分公司

本路线图是人工智能风险管理框架 (AI RMF 1.0) 的配套文件。根据 2020 年国家人工智能倡议法案 (PL 116-283) 的指示，AI RMF 的目标是向设计、开发、部署或使用 AI 系统的组织提供自愿资源，以帮助管理人工智能系统的许多风险。人工智能并促进人工智能系统的值得信赖和负责任的开发和使用。

该框架旨在是自愿的、保护权利的、非特定行业的和用例不可知的，为各种规模、所有行业和整个社会的组织提供灵活性，以实施该框架中的方法。 AI RMF 旨在为组织和个人（AI 参与者）提供提高 AI 系统可信度的方法。

该路线图确定了推进 AI RMF 的关键活动，这些活动可以由 NIST 与私营和公共部门组织合作开展，或者由这些组织独立开展。 NIST 的参与将部分取决于可用资源。路线图中描述的工作旨在帮助填补知识、实践或指导方面的空白，并为更广泛的受众追求值得信赖和负责任的人工智能提供帮助。随着人工智能技术和经验的发展，路线图活动将会发生变化。

NIST 人工智能风险管理框架路线图信息图

NIST 认为最优先的领域显示在上图中，并在下面的文本中进行了解释：

与国际标准接轨，生产人行横道符合相关标准。（例如，ISO/IEC 5338、ISO/IEC 38507、ISO/IEC 22989、ISO/IEC 24028、ISO/IEC DIS 42001 和 ISO/IEC NP 42005。）

作为联邦人工智能标准协调员，NIST 在整个领域开展工作政府和行业利益相关者共同确定关键的标准制定活动、战略和差距。基于 NIST 制定的“联邦参与人工智能标准和相关工具计划”中列出的优先事项NIST 正在跟踪人工智能标准的制定机会，定期收集和分析有关机构人工智能标准相关优先活动的信息，并通过机构间流程提出建议以优化参与。 NIST 还参与选定的人工智能标准活动。请参阅： https://www.nist.gov/artificial-intelligence/technical-ai-standards
扩大 TEVV 工作。 NIST 将与更广泛的社区合作，开发工具、基准、测试平台和标准化方法，以评估人工智能和系统可信度的风险，包括从社会技术角度进行评估。
AI RMF 1.0 配置文件。简介是组织分享如何将 AI RMF 付诸实践的现实示例的主要方法。这些配置文件可以针对给定的行业部门（例如招聘、刑事司法、贷款）、跨部门（例如大型语言模型、基于云的服务或收购）、时间性（例如当前状态与期望状态）或其他主题。鼓励组织和个人联合或独立制作AI RMF档案。
关于可信度特征之间可能存在的权衡和关系的指南。管理人工智能风险的一个关键挑战是需要平衡和驾驭可信度特征之间的权衡，并系统地做到这一点，并取决于在各种背景和用例中发挥作用的价值。 NIST 打算研究该主题领域的关键概念，并制定与更广泛的社区进行权衡的指南。
衡量 AI RMF 的有效性。随着 AI RMF 的采用，组织将在应用该框架时获得不同的体验。这些经验教训和见解可以提高人工智能 RMF 的实用性和有效性，并增强我们对更广泛地管理人工智能风险的理解。 NIST 将与项目评估专家、AI RMF 用户社区和其他相关方合作，建立方法来捕获、评估和分享有关框架使用的见解。这些努力将有助于修订 AI RMF 1.0 和本路线图的未来版本。
开展有关单个组织或部门、环境或 AI 参与者如何使用 AI RMF 的案例研究。用例可能与 AI RMF 概况类似，但可以更直接地描述使用 AI RMF 的组织经验和挑战，以及如何解决这些问题，以及有关资源、时间范围和 AI RMF 有效性的信息。
人工智能风险管理背景下的人为因素和人与人工智能团队的指南。 NIST 打算研究如何最好地配置人类人工智能团队，以减少对个人、团体、社区和社会产生负面影响/伤害的可能性。这些影响可能与人类对人工智能产生的输出的洞察有关，或者与人类对人工智能系统及其在现实世界环境中的运行的监督有关。
与可解释性和可解释性相关的指南，以及如何在 AI RMF 中应用该指南。随着我们对不同受众和不同目的如何理解人工智能的认识不断进步，NIST 已经确定需要将人工智能的可解释性和可解释性领域更直接地与人工智能风险管理联系起来。
关于制定合理风险承受能力的方法的指南。 NIST 将与社区合作，确定组织可以用来提高风险承受能力的方法。
教程和其他资源，以增强人工智能风险管理的多学科和社会技术方法。与人工智能风险管理相关的主题非常复杂且不断发展，兴趣社区将继续扩大并变得越来越多学科。为了让更广泛的人工智能社区了解情况，NIST 将鼓励主题专家和其他感兴趣的各方开发针对不同受众类型的教育材料，并将为这些努力贡献其技术专业知识。