ISACA近期成功在北美菲尼克斯举办了2024年度ISACA北美会议，聚焦AI大浪潮下的数字信任，为参会者带来深刻洞见。本文作者在聆听了全部演讲内容后，特意精选了“人工智能审计工具”以及“人工智能革新审计”两个演讲主题，总结了其中的精华内容，与各位读者分享。

随着技术发展，人工智能逐渐成为企业产品和服务交付不可或缺的一部分，将受到更多与审计相关的审查，审计范围和评估技术也将动态发展并且跨越多个学科。ISACA人工智能审计工具包是一个从精选框架和法律中衍生出来的AI控制库，将为IT审计人员提供评估指导，围绕新兴技术的控制提供有效性证明。演讲人Cook对人工智能审计工具包的关键成分、可解释性维度，以及审计方法论展开详细介绍。她结合具体实例，对工具包如何在实践中应用进行了现场演示和讲解。

A.人工智能审计工具包关键成分

• 控制集合-涵盖人工智能，系统治理、安全和合规性方面22个领域。

• 控制类别-控制集合包含86个类别。

• 控制措施-控制类别中的251个控制措施以及从已建立的框架（NIST 800-531、ISO/IEC 27001）和人工智能法律和指南（欧盟人工智能法案、新加坡人工智能治理框架模型、MITRE的Atlas、以及开放式Web应用程序安全项目（OWASP）机器学习安全十大指南）中派生的控制合集。

• 人工智能审计工具包概览

B.人工智能审计工具包可解释性维度

C.人工智能审计方法论

D.人工智能审计工具包演示和应用

步骤1: 了解人工智能用例并确定审计范围

示例：包括信贷决策、欺诈检测、患者护理、客户体验在内的AI系统

步骤2: 确定适用的人工智能控制措施

AI偏见缓解和公平：识别和缓解AI系统中的偏见，以确保公平和无偏见的决策过程，包括两个控制类别：

• AI公平认证与标准（AD.DS）设定标准和认证，以确保AI模型的公平和无偏见。

• 偏见与公平验证工具（AF.BV）用于检测和纠正AI系统中偏见的工具和方法。

步骤3：制定请求列表和评估方法

步骤4：沟通审计请求列表

步骤5：映射指导

步骤6：得出审计结论并沟通结果

由于人工智能融入了许多商业实践，该领域正在迅速变化。人工智能既能改变现有的审计流程，又能创建全新的审计流程。演讲人Galazka和Matamoros阐述了人工智能如何革新审计，帮助审计师在实践中利用人工智能的力量并针对LLM和ChatGPT在审计生命周期中的应用示例展开了详细说明，并提出了优化提示和结果的建议。

A.人工智能审计现状和用例

• 金融行业应用人工智能审计现状

• 审计中人工智能/机器学习的用例

B.人工智能在审计中的应用

• 提示词工程介绍

• 内部审计应用示例

• 优化提示和结果的建议

  • 定义LLM的角色-在提示中描述LLM在回答问题时应扮演的角色。

  • 尽可能提供更多信息-提供与提示相关的所有细节，并考虑包括目标受众和沟通渠道。

  • 指导 LLM 提出问题-通过“如果需要更多背景信息，可以问我其他问题”获取额外补充信息。

  • 链式提示-将复杂任务分解为更多中间步骤的策略。

  • 指导LLM生成提示-指导LLM创建与问题相关的提示。

  • 多示例提示-为LLM提供多个示例问题和答案。

编者按：ISACA人工智能审计工具包可在ISACA全球官网购买。更多来自ISACA的人工智能资源，请访问www.isaca.org/ai。欲了解更多ISACA审计鉴证程序及资源，请访问www.isaca.org/resources/it-audit。

通讯员：唐雅琪（Andrea Tang），FIP， CIPP/E， CIPM，ISO 27001 LA，ISACA微信公众号特邀通讯员小组组长。