为人工智能驱动的未来网络安全格局做好准备_专栏

易百纳社区

Azeria Labs的创始人兼专门研究移动和物联网安全的安全研究员Maria Markstedter对人工智能将如何在未来几年改变网络安全进行了启发性的观点。虽然人工智能带来了许多好处，但它也带来了新的威胁，开发人员必须了解这些威胁才能保护他们的系统。

正如Markstedter所描述的那样，像ChatGPT这样的AI聊天机器人似乎在一夜之间成为主流。但是，企业对向这些外部服务公开敏感数据有合理的担忧。作为回应，内部人工智能开发平台的新市场迅速出现。

这导致了人工智能助手可以广泛访问内部系统以提高生产力的未来。然而，自主决策能力提出了重大的安全问题。正如身份和访问管理可以保护人类用户一样，也需要新的保护措施来保护 AI 代理。

多模式人工智能综合来自图像、文本、语音的数据，并以指数级的方式扩大潜在的攻击面。恶意指令可能不知不觉地潜伏在任何输入通道中。确保人工智能系统的安全将需要全面的数据验证和净化，远远超出当前的做法。

Sergienko警告说，人工智能可以通过自动处理互联网数据来利用。例如，被指示创建新应用程序的 AI 代理可以下载在线找到的包含后门的任意代码。摄取外部数据的能力是基本的，但也很危险。

强调的一个关键挑战是人工智能决策缺乏透明度。响应背后的确切逻辑通常甚至对开发人员来说都是难以理解的。这强调了对可解释的人工智能的需求，以阐明如何得出结论。否则，将无法检测操纵的结果或排除故障。

Markstedter强调，虽然人工智能可能不会消除对安全专业人员的需求，但对新技能的需求量将很大。专家必须学习对抗性机器学习等技术来强化人工智能系统。了解人工智能的复杂性将成为有效网络防御的必要条件。

积极主动的开发人员应采用 AI 零信任网络等原则，执行可靠的输入验证，部署 AI sandboxes，持续监控异常情况，并严格测试边缘情况。有创造力的黑客可能会找到开发人员还无法想象的方法来欺骗AI。

她的结论是，与其说人工智能取代安全工作，不如说能够利用人工智能增强网络安全的专业人士将看到他们的价值增加。有能力构建抗操纵的无懈可击的机器学习系统的开发人员将完全有能力带领我们进入算法的未来。

为人工智能驱动的未来网络安全格局做好准备