白宫关于AI的行政命令对网络安全领导人意味着什么

AI继续成为技术聚光灯下的焦点，随着我们进入2023年最后一个季度，国际社会对利用AI的力量产生了广泛的兴趣，这是正确的，但在兴奋和期待的同时，世界各国政府也发出了一些适当的警告，担心AI的所有前景和潜力都有阴暗面：它可以容易地被坏人用作恶意目的。

因此，2023年10月30日，美国总统乔·拜登发布了《关于安全、可靠和值得信赖的AI开发和使用的行政命令》，同时七国集团领导人发表了一份联合声明，支持2023年5月的《广岛进程国际行为准则——开发先进AI系统的组织》。美国的行政命令还提到了预计将于11月举行的英国AI安全峰会，届时世界各国领导人、科技公司和AI专家将齐聚一堂，“促进关于AI的关键对话”。

了解AI将如何影响CISO的角色是关键

在国际社会试图为许多人眼中的混乱带来秩序的嘈杂声音中，重要的是要了解AI和ML将如何影响他们的角色及其挫败、检测和补救威胁的能力。了解新政策的动向对于衡量应对威胁的责任在哪里至关重要，并提供对这些政府机构认为的前进道路的洞察。

CISO将得到很好的服务，以确保他们能够了解各种工作组和咨询委员会(例如，AISSB)，因为他们支持其实体的发展和采用AI/ML工具。此外，鉴于全球倡议的流动性，跨国界缺乏协调是一个现实问题，如果指导方针和条例在区域内或国家不同，可能会导致下游的遵约问题。

美国关于AI的行政命令

美国的这项行政命令建立在白宫之前参与AI的基础上，并为行业和政府提供了指导方针。那些拥有国家安全足迹的实体应该特别关注AI技术的两用可能性。这项行政命令指出了七个重要领域：

• 确保安全保障。
• 保护隐私。
• 推进公平和公民权利。
• 为消费者和工人挺身而出。
• 促进创新和竞争。
• 提升领导力。
• 确保负责任和有效地使用AI。

站在AI监管第一线的政府机构

美国国家标准与技术研究所(NIST)面临着一项艰巨的任务，它在社交媒体上将其描述为“机会”：“AI提供了巨大的机会，但我们也必须管理风险。[行政命令]指示NIST制定指导方针和最佳实践，以促进达成共识的行业标准，帮助确保安全、可靠和值得信赖的AI的开发和部署。”

与此同时，白宫国家网络总监办公室在社交媒体上准确地描述了它对行政命令的理解：“今天的EO为AI安全和保障、保护美国人的隐私、促进公平和公民权利建立了新的标准-它维护消费者和工人，促进创新和竞争。”

美国国土安全部发布了自己的情况说明书，解释了行政命令及其职责，重点强调了关键领域：

• 成立AI安全与安保咨询委员会(AISSB)，以“支持AI负责任的发展。该委员会将汇集来自AI硬件和软件公司、领先研究实验室、关键基础设施实体和美国政府的杰出行业专家。”
• 努力制定AI安全和安保指南，供关键基础设施所有者和运营商使用。
• 利用AI的潜力来改善美国的网络防御，强调中国国际安全局如何积极地“利用AI和ML工具进行威胁检测、预防和漏洞评估”。

另外，网络安全和基础设施安全局在其自己的社交媒体帖子中强调，它将“评估与使用AI相关的潜在风险，为关键基础设施部门提供指导，利用AI的潜力来改善美国的网络防御，并为红队GenAI提供建议。”

评估AI对知识产权的威胁

对知识产权的威胁不是假设的，在行政命令中处于首要位置。为了加强对AI相关知识产权的保护，国土安全部将通过国家知识产权协调中心创建一个项目，帮助AI开发人员利用国土安全调查、执法和行业合作伙伴关系来缓解与AI相关的风险。

以IBM为代表的工业界也发出了这样的警告：“解决潜在AI安全问题的最佳方式是通过开放创新。一个强大的开源生态系统，拥有包括创建者、开发者和学者在内的不同声音，将有助于迅速推进AI安全科学，促进市场竞争。”

ChatGPT进入消费者手中已经一年了，而过去的12个月完全是旋风式的采用。CISO必须像以前建议的那样，提出尖锐的问题，并要求支持在其产品中包含AI/ML的提供商提供来源和可证明的测试结果。虽然全球政府的倡议指向了正确的方向，但很明显，最终的责任将落在CISO的肩上，以确定他们的实践是否在正确的轨道上。