网络安全专家指出恶意AI将开始泛滥

研究报告显示，26%的人认为可以绕过大多数已知网络安全措施的恶意AI将在2024年发生，50%的人认为可以绕过大多数已知网络安全措施的恶意AI将在未来5年内发生。

安全专业人士对恶意AI的担忧

除了对进攻性AI超过防御性AI的担忧外，77%的专业人士对恶意AI表示严重担忧，在恶意AI中，AI行为偏离其预期的目的或目标，变得不可预测和危险。

钓鱼、社交工程和恶意软件攻击被视为AI将加强的最大威胁，但身份欺诈、数据隐私泄露和DDoS攻击也被认为可能变得更加有效。

尽管如此，受访者仍对AI对网络安全的积极影响持乐观态度。预计AI将支持威胁检测和漏洞评估，入侵检测和防御被确定为最有可能从AI中受益的领域。深度学习在检测加密流量中的恶意软件方面前景最好，48%的网络安全专业人士预计AI会产生积极影响。

成本节约成为衡量AI增强防御成功的首要KPI，而72%的受访者认为AI自动化将在缓解网络安全人才短缺方面发挥关键作用。

AI在网络安全方面的采用率仍然较低

61%的企业尚未以任何有意义的方式部署AI作为其网络安全战略的一部分，41%的企业认为AI是其企业的高或最高优先事项。充满希望的68%的受访者预计，未来两年AI倡议的预算将增加。

50%的网络安全领导者报告说，他们的企业对网络安全领域的AI/ML有“广泛的了解”，另有19%的人报告说“中等知识”，剩下的大约三分之一的人报告说没有知识到最低限度的知识。当被问及企业应该采取哪些步骤来准备应对复杂或压倒性的AI攻击时，68%的人提到加强了对员工的网络安全培训和意识。

紧随其后的是制定特定于AI的事件响应计划(65%)，61%的人表示定期进行安全评估和审计。超过一半的受访者表示，加强零信任协议、多因素身份验证、下一代防火墙和威胁情报等传统安全控制是准备应对复杂AI攻击的关键。

“了解AI对网络安全的深刻影响，对于驾驭不断变化的威胁格局至关重要，”Enea资深行业分析师劳拉·威尔伯表示。“首先，要密切听取网络安全领导人及其前线团队的关切和希望。”

“这份报告证实了人们对恶意使用AI的日益担忧，但它也强调了使用AI来简化和自动化防御方面的一些引人注目的创新。已经取得了重大进展，例如减少了检测和遏制威胁的平均时间。然而，AI并不是一刀切的解决方案——企业必须采取明确和有条不紊的方法来实施AI战略，以实现最大程度的弹性。正如Enea所说——不要感到惊讶，要做好准备。”