在当今互联互通的数字环境中，网络安全已成为个人、组织和政府的共同关注的重要问题。不断变化的威胁形势提出了重大挑战，迫切需要创新的方法来防御复杂的攻击。一种具有成效的方法是将人工智能（AI）和自动化集成到网络安全实践中。两者结合的强大力量有望实现更高效的防护，包括主动威胁识别、实时监控及自动化事件响应。然而，要充分发挥这些新兴技术的潜力，关键在于培养一支具备必要技能和知识的队伍。这凸显了投资面向未来的网络安全培训的重要性。

对于网络安全专业人士来说，探索AI和自动化的潜在优势和挑战，以及适应并在超越这个快速变化的环境所需技能是至关重要的。

网络安全挑战 

网络攻击的复杂性和规模继续激增，威胁行为者采用先进技术来利用漏洞。传统的手动威胁检测方法很难跟上攻击的速度和数量，因此需要更智能的解决方案。

以2020年SolarWinds黑客攻击事件为例。黑客非法访问著名IT管理软件提供商SolarWinds，将恶意代码嵌入软件更新。包括政府机构和企业在内的众多SolarWinds客户都收到了有害的更新。攻击者秘密行动了几个月，展示了现代网络威胁格局不断升级的复杂性。鉴于这种攻击的隐蔽性和受攻击影响的广泛数据量，手动威胁检测方法在识别这种攻击时困难重重。因此，这一事件凸显了对主动和适应性安全战略的需求，以及对一支能够应对这种先进威胁的熟练网络安全队伍的需求。

勒索软件攻击也成为网络安全领域的一个重大而普遍的挑战。近年来，勒索软件攻击的规模和影响急剧升级，造成了严重的破坏和财务损失。值得注意的例子包括2017年Equifax事件，泄露了敏感个人信息，以及2021年科洛尼尔管道运输公司（Colonial Pipeline）攻击事件，破坏了燃料供应链。这些攻击显示了未能充分保护数据和系统的毁灭性后果。创新的解决方案，如高级终端保护、基于行为的异常检测以及安全的备份和恢复系统，对于减轻勒索软件带来的风险至关重要。

网络钓鱼活动也依旧是一个持续的威胁。它们变得更加复杂，网络犯罪分子制造令人信服的电子邮件和消息，经常冒充可信的机构，诱骗个人泄露敏感信息或点击恶意链接。众所周知的例子包括2014年索尼影业（Sony Pictures）事件以及2013年和2014年雅虎数据事件。传统的电子邮件过滤方法通常不足以阻止这些类型的攻击。需要采用尖端技术来支持防御。创新的电子邮件安全解决方案采用机器学习（ML）和AI来分析电子邮件内容和发件人行为，提高检测率，并减少误报。

为了有效应对这些挑战，对网络安全采取主动、适应性强和不断改进的方法不仅是一项要求，而且是保护数字世界的当务之急。

AI和自动化的潜在好处 

为了应对网络安全的挑战，AI和自动化提供了切实的优势。AI算法可以用于多方面的应用，包括复杂的威胁检测、异常识别和预测分析。值得注意的是，协调和响应自动化等自动化技术可以用于为简化事件响应、减少关键响应时间和应用道德决策框架奠定基础。文献展示了大量AI和自动化已被成功利用的实例，包括恶意软件识别、网络监控、用户行为模式分析、增强的威胁智能、实时监控功能、快速响应持续时间和减少人为错误等领域。。此外，实时人工智能驱动的监控确保了对大量数据集的持续分析，允许及时检测异常和潜在违规。

考虑一家在网络安全中采用AI和自动化的著名金融机构。系统发现多个帐户之间的交易请求异常激增。向网络安全团队发送即时警报，触发自动响应。因此，受影响的账户得到保护，可疑交易被停止，客户得到及时通知。安全团队与执法部门合作，跟踪攻击，并消除威胁。此示例显示了AI驱动的自动化如何最大限度地减少财务损失，维护客户信任，并加快威胁检测和缓解。此外，自动化简化了事件响应，自动化了例行任务，加快了补救，并缩短了响应时间。

AI的潜在缺点

人工智能和自动化的集成提供了巨大的希望，但必须了解潜在的缺点，解决道德问题，并坚持与这些变革性技术相关的负责任的做法。组织必须意识到的潜在危害和挑战包括：

• 误报和漏报-当AI系统错误地将良性活动识别为威胁时会发生误报，导致网络安全专业人员出现不必要的警报和警报疲劳。另一方面，当人工智能无法识别真正的威胁时就会发生漏报，使组织容易受到攻击。例如，2019年，一个基于AI的防病毒系统将关键系统文件标记为恶意软件。因此，删除了一个必要的文件，导致数千台计算机无法运行，并对受影响的用户造成重大中断。

• 数据隐私问题-在网络安全中使用AI通常涉及处理敏感数据，这引发了对数据隐私的担忧。错误处理或暴露数据可能会导致违反法规、受到财务处罚，并损害组织的声誉。谷歌（Google）的子公司DeepMind面临着与英国国家医疗服务体系（NHS）合作的审查，其中提出了对患者数据访问和使用人工智能处理敏感医疗信息的担忧。组织必须确保他们负责地处理数据，并遵守相关的数据保护法规。

• 复杂的对抗性攻击-AI系统容易受到对抗性攻击的影响，其中恶意行为者操纵输入数据来欺骗人工智能算法。攻击者使用先进的技术来手工处理AI系统错误分类的输入，从而使恶意活动无法被检测。例如，在自动驾驶中，攻击者可能会在道路标志上放置经巧妙设计的标签，以误导自动驾驶汽车的物体识别系统，从而可能引发事故。另一个例子是，2018年，研究人员展示了如何通过使用专门设计的眼镜和配件来愚弄人工智能面部识别系统。这引起了对生物特征认证系统安全性的担忧。

• 有限的背景理解-AI系统可能难以把握事件更广泛的环境。由于对环境的理解有限，他们可能将合法活动标记为威胁或者无法识别可疑行为。例如，在2020年，一家零售店的人工智能系统安全摄像头将一名在货架补货的员工误认为是商店扒手。该员工被拘留，凸显了人工智能监控系统误解现实世界情况的潜在风险。

• 依赖不断更新-网络安全中的AI依赖于不断更新，以保持对不断演变的威胁的有效性。未能更新AI模型和威胁数据库会使组织容易受到新的攻击向量的攻击。例如，2017年WannaCry勒索软件攻击影响了世界各地的组织，包括医疗保健和金融机构，因为它们未能使用必要的安全修补程序更新其系统。这突出了定期更新和修补程序管理的重要性。

• 缺乏可解释性-AI算法，特别是深度学习模型，通常被视为黑盒，因为它们难以解释。缺乏可解释性可能会阻碍组织理解为什么AI系统做出特定决策的能力，影响透明度和信任。例如，2019年，一家大银行使用的AI驱动的贷款审批系统因缺乏透明度而受到批评。申请人在不了解原因的情况下被拒绝贷款，导致客户投诉和监管审查。

• 过度依赖-过度依赖AI可能会导致网络安全专业人员自满。如果团队信任AI来处理所有安全任务，则可能会导致缺乏人工监督和批判性思维，从而导致系统可能丢失关键安全问题。例如，2016年，一家大型科技企业发生了安全事故，其AI驱动的身份验证系统被网络罪犯欺骗。攻击者通过伪造看似合法的欺骗性电子邮件来发起钓鱼活动，可能模仿官方通信或紧急警报。这些电子邮件旨在操纵人类心理，包含恶意链接或附件。当员工信任看似合法的通信，与这些钓鱼企图互动时，网络罪犯成功地欺骗他们泄露敏感信息，包括登录凭据。在这种情况下，该组织过分依赖AI，没有采取补充措施。AI身份验证系统未能检测到登录行为中的异常，导致对敏感系统的未授权访问。这起事件清楚地提醒我们，尽管AI可以增强安全性，但它应该是更广泛、多层次方法的一部分，该方法将技术进步与传统安全方法相结合，确保对不断演变的网络威胁进行更具弹性的防御。
  
  在军事应用中使用全自主武器呈现出高度令人担忧的场景，这带来了重大风险。这些武器有能力在没有直接人类干预的情况下作出关乎生死的决定，这标志着脱离了传统的指挥和控制结构。固有的危险在于决策过程中缺乏人的监督。将关键选择授权给AI系统构成了一个相当大的风险，即自主武器可能会误解情况，因为它们缺乏人类决策者所拥有的微妙理解、情感智能和环境意识。这增加了意外伤害的担忧，因为自主系统可能在无意中造成附带损害，伤害平民，甚至导致冲突升级。这些武器在没有人参与的情况下行动的可能性引起了伦理、道德和战略方面的关切，强调需要认真考虑和国际协议来管理其部署，并确保在军事环境中负责任地使用。

• 技能差距和人力岗位替代-AI的自动化能力可能会导致网络安全专业人员所需技能的转变。一些例行安全任务可能会自动化，取代员工并可能在处理新出现的威胁方面造成技能差距。近年来，随着银行和金融机构实施了用于自动欺诈检测和客户支持的AI，一些员工被替换或不得不适应新的角色。这种转变在重新培训和维护熟练的网络安全工作人员方面提出了挑战。

最重要的是优先考虑负责任的实施、透明度和道德决策框架，以减轻潜在危害。迫切需要可理解和可解释的AI算法，但缺乏精通AI和网络安全领域的熟练专业人员，以及存在针对AI系统的对抗性攻击的潜在风险。

理解和解决这些潜在缺陷是充分利用AI和自动化潜力的同时减轻相关风险的关键步骤。

基于AI的网络安全的未来技能

网络安全的动态性质要求专业技能集发生范式转变。除了传统专业知识外，未来的网络安全专业人员还需要熟练掌握AI和机器学习、数据分析能力，高级编程能力，并坚定不移地掌握基本的网络安全原则。例如，如果网络安全分析师面临人工智能生成的恶意软件攻击，他们必须了解AI算法，并能够预测和挫败AI驱动的威胁以对抗攻击。在另一个例子中，数据分析专业人员可以利用AI和自动化的力量来发现大量数据集中的漏洞。通过使用机器学习算法，可以以前所未有的速度和规模处理和分析大量原始数据。AI算法有助于识别模式、异常和潜在的安全风险，这些几乎是人类无法手动识别的。这使数据分析师能够快速有效地将原始数据转化为可操作的见解，帮助其组织在网络安全工作中领先于潜在威胁和漏洞。对日常任务的自动化工具的掌握使人们能够将注意力集中在打击网络犯罪的创新战略上。

将AI和自动化组件整合到网络安全教育课程和沉浸式培训计划中至关重要。持续学习和不断提高技能对于在这种不断发展的环境中保持最新状态至关重要。通过将持续学习纳入业务实践，组织将具备良好的能力，能够熟练地驾驭不断变化的威胁格局，并跟上快速的技术进步。

AI与自动化应用实例 

AI和自动化在革新网络安全实践方面的潜力，通过具体的应用案例体现得最为明显。这些场景展示了AI驱动的技术如何超越传统方法，从而实现更有效的防御策略。以下示例还强调了将传统网络安全知识与AI、数据分析和自动化技能相结合的多方面技能集的重要性，以有效保护数字生态系统：

• 恶意软件检测和分析-AI驱动的系统可以快速分析大型数据集，以检测指示零日恶意软件存在的微妙模式。设想一个网络正遭受新出现的零日恶意软件varianta类型恶意软件的威胁，该恶意软件利用软件供应商或网络安全社区未知的软件漏洞。这种类型的威胁特别重要，因为没有可用的已知补丁或防御来防范它。传统的基于签名的检测方法可能无法识别这种新的威胁，但人工智能驱动的分析可以快速识别异常行为。它通过最初了解网络上的正常行为，建立基线，然后持续监控与该基线的任何偏差来实现这一点。当它检测到超出既定规范的活动时，它会发出警报，从而立即进行遏制和补救。检测和减轻恶意软件等网络安全威胁需要了解人工智能算法，熟练分析大量数据集，以及为正常网络行为建立基线的能力。

• 行为异常检测-自动化可用于持续监控网络流量和用户行为，如用户和实体行为分析（UEBA），以快速识别与既定规范的偏差。例如，人工智能系统可以检测员工何时在正常工作时间之外访问敏感数据。系统会触发警报，从而能够及时调查并防止潜在的数据泄露。行为异常检测需要配置自动监控系统的专业知识、网络流量分析的知识，以及识别与既定用户行为规范的偏差的能力。

• 钓鱼攻击检测-AI可以分析电子邮件内容和发件人行为，以识别潜在的网络钓鱼攻击。自动系统可以检测微妙的语言提示、域模拟和异常的发送者模式，所有这些都可能表示潜在的钓鱼攻击。这种自动检测可以显著降低员工成为钓鱼欺诈受害者的风险。网络钓鱼攻击检测依赖于识别微妙的语言线索和模式，并能够配置自动化系统以快速响应潜在威胁。

• 漏洞评估-人工智能驱动的自动化可以扫描和分析代码，以查明软件应用程序中的漏洞。自动漏洞扫描程序可以分析源代码存储库中的潜在安全漏洞，并建议补救措施，使开发人员能够主动增强软件安全性。对于漏洞评估，专业人员需要具备人工智能驱动的工具方面的能力，熟悉软件开发和源代码分析，以及主动识别和解决安全漏洞的能力。

• 自动事件响应-在发生安全事件的情况下，人工智能驱动的自动化可以快速隔离受影响的系统，停止恶意流程，并通知网络安全团队。这种快速响应最大限度地减少了损害，防止了攻击的蔓延，展示了人工智能在事件响应中的优势。人类的基本技能包括系统配置和事故管理专业知识。

• 端点保护-AI可用于保护终端（计算机、设备、服务器）免受各种威胁，包括恶意软件和勒索软件。人工智能算法分析行为模式以识别终端上的潜在恶意活动，从而实现主动威胁缓解。从业者必须掌握在计算机、设备和服务器上进行威胁检测的人工智能算法和行为分析的技能。

• 网络流量分析-基于AI的自动化工具可以实时分析网络流量，以识别异常模式或异常，指示潜在的安全事件或网络攻击。这对于手动监控不切实际的大型网络尤其重要。为了建立该领域的专业知识，从业者应该专注于获得为网络流量的实时分析定制的特定AI算法的技能。此外，行为分析是一项关键能力，可以提高从业者识别指示安全威胁的违规行为的能力。在计算机、设备和服务器上配置和管理安全措施的动手技能是必不可少的。这包括实施和维护安全措施（如防火墙、入侵检测系统和加密协议）的实践知识。当各组织投资于技能举措时，应该采取一种全面的方法，不仅包括技术技能，还包括对不断变化的威胁形势的认识。网络安全专业人员应随时了解新出现的风险和技术，培养积极主动的心态，这对于调整安全措施至关重要。通过开发一套全面的技能集，包括AI算法、行为分析和安全管理实践，从业者可以有效地帮助网络抵御不断发展的网络安全挑战。

• 安全信息和事件管理（SIEM）-通过AI和自动化增强的SIEM解决方案可以处理大量安全数据，关联事件，并提供对潜在威胁的实时洞察。这有助于安全分析师做出更快、更明智的决策。精通AI算法是从业者与SIEM合作的基本技能，因为它使他们能够有效地利用集成到SIEM系统中的AI功能。理解和实施AI算法可以提高威胁检测的准确性和效率，确保SIEM系统能够有效地识别和响应不断演变的网络威胁。此外，行为分析的强大基础对于使用SIEM解决方案的从业者至关重要。SIEM系统处理大量数据，在识别可能指示潜在安全威胁的异常活动时，分析用户和系统行为的能力变得至关重要。从业者应该擅长解释模式，识别偏差，并区分计算机、设备和服务器上的正常活动和可疑活动。

• 云安全-可以部署AI和自动化来监控和保护云环境。它们可以自动检测并响应云基础架构中的可疑活动，确保云中托管的数据和应用程序受到保护。首先，熟练掌握AI算法对于从事云安全的从业者至关重要。将AI集成到云安全解决方案中可以智能分析大量数据集，有助于识别异常模式和潜在威胁。此技能对于确保云安全措施能够适应不断发展的网络威胁并为云托管资产提供强大的保护至关重要。除了AI专业知识外，行为分析的强大基础对于云安全领域的从业者至关重要。云环境处理多样化和动态的数据集，分析用户和系统行为的能力有助于识别潜在的安全风险。具有行为分析技能的从业者可以有效地区分正常活动和可疑活动，确保在与到云基础架构相关的计算机、设备和服务器之间进行主动威胁检测的方法。

结论

AI和自动化在网络安全中的集成是有效防御不断演变的威胁的重要机会。AI和自动化在增强网络安全实践中的潜在好处包括改进的威胁情报、实时监控和自动事件响应。然而，负责任的实施和解决道德问题对于确保在网络安全中可信和透明地使用AI至关重要。

在这个快速发展的环境中，未来技能成为一个关键的必要条件。网络安全专业人员必须掌握新的技能集，包括熟练掌握AI、机器学习、数据分析和编程。终身学习和不断提高技能对于跟上新兴技术和不断变化的威胁至关重要。将AI和自动化整合到网络安全课程和培训计划中是必要的，以使专业人员为不断变化的网络安全格局做好准备。

为了充分发挥这些技术的潜力，至关重要的是投资于未来的技能计划，优先发展相关技能。因此网络安全专业人员可以适应不断变化的威胁环境，有效防御网络攻击，并保护数字系统和信息。AI、自动化和熟练的网络安全专业人员之间的协同作用将为安全的数字未来铺平道路。

作者：Singirikonda Manikanta是一名认证的道德黑客和高级安全分析师，精通应用程序安全和漏洞评估，并在编程语言、云计算和网络安全方面拥有专业知识。

翻译：杨皓然（AdySec），CISSP，CISM，CISA，CDPSE，CRISC，CGEIT，PMP，CCSK，CZTP，CDSP，CCSSP，RHCA，CCNP，ISO27001 Auditor，ISACA微信公众号特邀通讯员，CSA大中华区专家，ISC2北京分会会员，致力于云安全、零信任、数据安全、安全运营等方向

校对：谭辰菲（William Tan），CISSP，CISA，CDPSE，CRISC，ISACA微信公众号特邀通讯员，华侨银行信息安全和数字化风险经理。