生成式 AI 的挑战与机遇

关键要点

生成式 AI 给企业环境带来了复杂的安全挑战，CISO 们在应对 AI 时感到压力。安全团队正在利用 AI 自动化繁琐的手动任务，提高工作效率。确保 AI 工具的安全性和隐私是当前的重要任务。形成跨部门的 AI 委员会可以帮助企业主动应对风险。尽管 AI 帮助了网络犯罪分子的网络钓鱼，但其对整个攻击策略的影响有限。CISO 对 AI 的期望较高，希望其能提升安全工具的协同性。在推广 AI 的过程中，保持人类监督是确保团队成功的关键。

随着生成式 AI 的进步，首席信息安全官CISO面临前所未有的挑战，这增加了企业环境的复杂性，并帮助恶意行为者实施更为复杂的攻击。安全领导者们现在必须掌握这一不断演变的技术，并将 AI 纳入他们的防御策略，同时确保 AI 工具的安全性和隐私。

数据表明，这些挑战正是 CISO 们最关心的问题。在 Tines 的一项关于 AI 采用的调查中，94 的受访者表示担心 AI 会增加团队的压力。

那么，领先的 CISO 们今天是如何看待 AI 的？他们对 AI 的影响感到满意还是失望呢？

在最近一次网络研讨会中，我向 Elastic 的 CISO Mandy Andress 和 Drata 的安全副总裁兼 CISO Matt Hillary 提出了这些问题。会议的主题是如何将 AI 变成加速器，而非障碍。

通过这次对话，我总结出了七个关键要点，提供了许多值得思考的见解，供前瞻性的安全领导者参考。

1 安全团队已经感受到生成式 AI 的益处

Andress 和 Hillary 都表示，AI 帮助他们的团队减少了繁琐的手动任务，如响应大量安全警报。Elastic 的 Mandy Andress 说：“我们可以使用现有工具来自动化资产数据、所有者数据、对业务的重要性等内容的引入。但我们无法总是将这些与周围威胁环境中的变化相结合。通过 LLM 获取这些信息，可以在快速变化的世界中提供更好的上下文。”

2 确保 AI 工具的安全性和隐私至关重要

在网络研讨会中，我们讨论了有限可见性的“黑匣子”AI 带来的风险。作为搜索驱动解决方案的领先平台的 CISO，Andress 对团队优先考虑 AI 工具的安全性和隐私表示鼓励。她说：“我看到各方对 AI 领域更多透明度的渴望，从产品的角度来看，明确告知客户使用哪些经过批准的工具来帮助他们的环境，而不是由我们来决定需要什么。”

3 跨部门的 AI 委员会可以帮助企业主动应对风险

为了帮助治理 AI 的使用，Andress 和 Hillary 建议成立跨部门的 AI 委员会。Andress 解释道：“它代表了技术、安全、法律、合规和商业等各个方面的观点。我认为一些公司会将责任放在首席 AI 官手中，但他们仍会汇聚这些相同的团体来了解我们需要注意的事项，以及在商业中利用 AI 的想法。”

梯子免费加速

4 AI 帮助恶意行为者进行网络钓鱼但影响不大

尽管 Andress 和 Hillary 对 AI 产生了一些担忧，但他们并没有看到 AI 在网络犯罪策略上产生重大影响。Hillary 解释说，尽管恶意行为者使用 AI，但人类创造力仍然是最大的威胁。“这些[网络钓鱼邮件和深度伪造]背后仍然是人类，他们在创造内容、编造虚假信息。我认为他们在长期内对我们造成的伤害会更大。”

5 利用 AI 的压力确实存在

安全领导者面临采用 AI 的压力，且往往缺乏对这一复杂过程的理解。高管们希望 AI 能够“超加速”他们的组织，而员工们则渴望在工作中使用