在技术飞速发展的时代，人工智能(AI)作为创新的灯塔，通过提高性能和实现可持续的竞争优势，以价值聚合方式推动各行业的变革。

有效的AI策略需要一个深思熟虑的计划，将这项技术整合到核心业务战略中，确保其与组织的使命、目标和价值观保持一致。董事会成员必须了解AI的挑战、威胁和风险，从而在引导组织实现可持续增长的同时确保道德实践和健全治理。

从这个角度看，这篇博客文章强调了AI的执行管理层概述：董事会在AI风险方面的角色和挑战，以及一套基于COBIT 2019框架的优秀实践，指导董事会评估、推动和监控AI企业治理。

理解AI伦理和战略的含义

AI是组织的核心。因此，AI代表了各个行业在解决问题、决策和自动化方面的范式转变。从机器学习算法到自然语言处理系统，AI技术正越来越多地整合到企业中，以提高效率、推动创新并获得竞争优势。然而，采用AI也给高管和董事会成员带来了挑战。

需要高管理解的关键原则之一是围绕AI的伦理影响。随着AI系统更加复杂和自主，关于数据隐私、算法偏见和AI在决策过程中的道德使用等问题也随之出现。因此，高管必须处理这些复杂的道德问题，以确保负责任地部署AI技术，并与组织的价值观和原则保持一致。

另一个关键方面是采用AI的战略影响。从识别AI集成的机会到评估潜在风险和缓解挑战，高管在组织内塑造AI计划的战略方向方面发挥着关键作用。这种作用不仅会影响对AI技术能力的理解，还会影响AI对商业模式、运营和竞争定位的更广泛影响。

此外，随着世界各国政府越来越多地实施政策和法规管理对AI合乎道德和合法的使用，高管们必须考虑围绕AI的监管环境。高管们通过关注这些监管动态并确保遵守适用的法律法规，可以减轻法律风险并促进利益相关者之间的信任。

从本质上讲，执行管理层对AI结构化的理解包括对AI技术的关键原则、伦理考虑、战略影响和监管要求的多方面理解，如图1所示。

图1:关于AI的关键执行方面

通过恰当地构建这些方面，高管们可以有效地驾驭AI应用的复杂性，并利用其变革潜力来推动其组织内的可持续增长和创新。

AI的多层级概述

AI已经成为我们日常生活和商业组织的结构中的一个通用术语。从像Siri和Alexa这样的虚拟助手到Netflix上的个人推荐，AI的无形之手以多种方式塑造了体验。

为了从技术角度帮助董事会成员，本文将探讨推动AI发展的四种基本方法：RAG、ASM、多模型AI和认知架构。检索增强生成（Retrieval-Augmented Generation，简称RAG）将神经模型与外部数据融合，实现更丰富的AI交互；自回归模型（𝗔𝘂𝘁𝗼𝗿𝗲𝗴𝗿𝗲𝘀𝘀𝗶𝘃𝗲 𝗦𝗲𝗾𝘂𝗲𝗻𝗰𝗲 𝗠𝗼𝗱𝗲𝗹𝘀，简称𝗔𝗦𝗠)增强序列理解和预测，提高AI的准确性；多模型AI(𝗠𝘂𝗹𝘁𝗶-𝗠𝗼𝗱𝗲𝗹 𝗔𝗜) 整合了各种模型，以解决复杂多变的问题；认知架构（𝗖𝗼𝗴𝗻𝗶𝘁𝗶𝘃𝗲 𝗔𝗿𝗰𝗵𝗶𝘁𝗲𝗰𝘁𝘂𝗿𝗲𝘀）旨在设计模仿人类认知的AI以增强自主决策能力。总之，图2总结了这些组件的AI方法。

图2: AI的四个基本组成部分

AI的多个层级表明，企业可以探索AI系统的多方面应用以满足利益相关者的需求，开发创新解决方案，并提高绩效。然而，董事会成员应牢记，AI的新兴风险是其本质所固有的，应予以识别和解决。

董事会在AI中的角色

董事会通过制定公司战略方向并确保与利益相关者的利益保持一致，在组织中发挥着至关重要的作用。董事会的职责包括批准预算、监督首席执行官、确保遵守法律、管理风险和维护道德标准。董事会通过有效的治理和监督，为组织的长期成功和公众信任做出贡献。

在AI方面，董事会在指导和监督组织的参与方面发挥着关键作用。这些作用包括为AI计划制定战略方向；确保AI技术与组织的使命、价值观和道德标准结合并保持一致；确保组织对AI的使用符合监管标准和行业最佳实践；培养创新和负责任地使用AI的文化；通过创造新的增长机会和竞争优势改善决策过程。

根据董事会在AI系统中的角色，董事会必须评估与AI系统相关的潜在风险和利益，包括组织形象、道德问题、隐私和敏感数据、战略和财务问题、网络安全事件和社会影响。

董事会需要考虑的AI威胁和风险

表1总结了董事会应关注的AI威胁和风险的关键问题，强调治理在确保负责任和战略性地使用AI技术方面的重要性。

表1: 与董事会角色有关的AI威胁和风险

基于COBIT 2019的优秀实践

广泛采用的COBIT 2019治理和管理目标为信息和技术（I&T）提供了全面的治理和管理指导。该框架可以根据AI业务和IT需求定制。因此，为了从董事会的角度解决AI系统的挑战、威胁和风险，本文提出了一种基于COBIT 2019框架的方法，如表2所示。

表2: 从董事会角度为AI系统量身定制的COBIT 2019

这种与COBIT 2019框架的全面结合确保了AI治理和管理的整体方法，解决了道德、法律、运营和战略挑战，使董事会能够有效地监督AI计划，确保在负责任地管理相关风险的同时为组织的目标做出积极贡献。

终极目标：可信且负责任的AI运营

AI技术的出现带来了一系列复杂的威胁和风险，需要仔细考虑。董事会深入了解这些挑战，并在COBIT 2019框架的指导下，可以在引导组织实现负责任和有效的AI规划和运营方面发挥关键作用。

通过实施健全的治理结构，确保与组织目标保持一致，倡导合乎道德的使用AI，以及培养持续学习和监控的文化，董事会成员可以利用AI的潜力，同时减轻其风险，确保组织拥有可持续和繁荣的未来。

编者按：本文于2024年4月2日首次发表于ISACA官网ISACA Now Blog。文章内容仅代表作者本人观点。

作者：

Luiz Claudio Diogo Reis, CISA, CRISC, CDPSE, COBIT 5 & 2019 Certified,

Marcos Sêmola, CISM, CIPM, CDPSE, PCI/DSS, ISO27k LA, IAPP Vanguard Award LA 2023

Paulo Sergio Pagliusi, Ph.D. in Information Security - RHUL, CISM, C|CISO, LA7799

翻译：唐雅琪（Andrea Tang），FIP， CIPP/E， CIPM，ISO 27001 LA，ISACA微信公众号特邀通讯员小组组长。

校对：姚凯（Kevin Yao），CISA，CISM，CRISC，CGEIT，CDPSE，ISACA微信公众号特邀通讯员，关注IT安全，隐私保护和数字化。