AI治理指的是管理人工智能（AI）系统开发、部署和使用的政策、法规、伦理原则和指导方针的框架。它确保了重新设计或新启用AI的业务流程和工作流能够以负责任和透明的方式实施。

AI治理面临几个重大挑战：

• 技术的快速发展通常超越了监管框架，导致监督上的空白；

• 在促进创新的同时进行有效的风险管理增加了复杂性，因为推进进步必须与确保安全性和公平性相权衡；

• 全球合作也是必不可少但难以实现的，因为各国需要在不同的政治和文化观点上达成一致标准。

此外，AI模型的复杂性和不透明性使得问责和透明度难以执行，增加了监管工作的复杂性。这些挑战要求采取灵活的政策、持续对话和跨部门协作来保持治理与不断发展的AI技术同步。

AI治理：企业战略的重要组成部分

AI治理能够帮助企业加速实现负责任、透明且可解释的AI工作流，并指导、管理和监控其AI活动。完善的人工智能治理战略可以帮助公司最大限度地降低风险，同时加强其满足伦理原则和政府法规的能力。如果一家公司想要在国际上成功运营，满足内部政策及外部监管与合规义务，那么AI治理必须成为企业AI战略的重要组成部分。

成功且负责任的人工智能需要了解当地、地区和国家的法律法规，而这些法律法规正在飞速发展。违规行为最终可能会让组织付出数百万美元的罚款和声誉损失的代价。如果组织不想违反这些规定，就必须考虑使用AI治理来有效管理其AI/GenAI服务的创建、部署和管理，并贯穿整个AI/GenAI生命周期。

正如ISACA新发布的《人工智能治理简报》中探讨的那样，AI治理必须贯穿整个AI生命周期，以实现其在实现企业商业战略和最小化内在风险方面的益处。由AI治理功能提供的监督将通过确保适当的政策到位并建立控制和合规框架来帮助实现负责、可解释且高质量的AI模型。

为弥合AI治理战略与实施细节之间的差距，可以采取一些实际措施，从建立强有力的监督机制到将伦理决策嵌入日常运营中，包括：

• 建立治理结构，包括问责框架。

• 在确定AI伦理原则、制定AI使用政策和实施减少偏见战略方面，执行政策制定和伦理准则。

• 通过定期进行风险评估并确保遵守监管细则来实施风险管理与合规实施。

• 通过实施设计伦理，将伦理决策纳入AI开发。

• 为人工智能模型生命周期实施数据治理和模型透明化。

通过加速模型构建以及自动化和整合多种工具、应用程序和平台，实现人工智能治理的可操作性。

生命周期中的全面治理

AI治理必须包含几个关键特征才能真正有效。首先，它应该是全面的，从头到尾监督整个人工智能生命周期。这包括在每个阶段捕获相关元数据，确保治理框架涵盖模型开发、部署和监控的所有方面。

此外，AI治理应当是开放的，提供企业生态系统中所有AI模型的完全可见性。这种开放性可以提高透明度，让利益相关者了解模型是如何在企业内部创建、使用和管理的。

最后，AI治理必须是自动的，要有捕获元数据、数据转换和数据脉络的自动化流程。这些方面的自动化可确保一致性、效率，并减少人为错误的可能性，从而实现对AI操作的无缝监督和可追溯性。这些特征共同打造了一个全面、透明和高效的AI治理系统。

实现AI治理的好处

有了上述要素，企业就能实现显著的人工智能治理效益。全面人工智能治理的好处包括:

• 在整个人工智能生命周期内监控、编目和管理（本地部署、云）模型

• 提供准确、始终最新的模型细节视图

• 协助自动捕获元数据、数据转换和数据脉络，并捕获模型元数据，以便轻松生成报告

• 访问自动化、可扩展的治理、风险与合规（GRC）工具

• 将内部治理、风险和合规政策与实践与外部监管准则和法律相结合

• 确保将外部人工智能法规转化为可执行的政策，以便自动执行

• 提高利益相关者的能见度，加强沟通

• 检测模型偏差和漂移，并在超过阈值/警戒线时向利益相关者发出警报

人工智能的实施在整个企业范围内持续增长，但企业要想以负责任和可持续的方式获得所需的价值，就必须进行完善的人工智能治理。

了解更多信息，请访问下载 ISACA的人工智能治理简报。下载地址：
https://www.isaca.org/resources/ebook/artificial-intelligence-governance-brief

作者：Shamik Kacker - Dell Technologies杰出工程师。 

翻译：王越乔（Cathy Wang），CISA，CDPSE，ISACA中国翻译工作组成员，关注数据安全和隐私保护。 

校对：唐四宝（Jerry Tang），CISA， CDPSE，CZTP，ISACA中国翻译工作组成员。