随着人工智能日益成为企业运营中不可或缺的一部分，新的安全问题和安全威胁也以前所未有的速度出现，超出了传统网络安全解决方案的能力。
这关系重大，可能会产生重大影响。根据思科公司发布的《2024 年人工智能就绪指数》（2024 AI Readiness Index），只有 29% 的受访企业认为自己完全有能力检测和防止人工智能技术遭到未经授权的篡改。
思科公司人工智能软件与平台主管 DJ Sampath 说： “当我们谈论模型验证时，它不仅仅是一次性的，对吗？你要持续进行模型验证。
思科公司 DJ Sampath 为一篇关于人工智能时代企业安全的文章拍摄的头像。
“因此，当你看到模型发生变化时--如果你正在进行任何类型的微调，或者你发现了开始出现的新攻击，你需要模型从中学习--我们会不断学习所有这些信息，并重新验证模型，看看这些模型在我们发现的这些新攻击下是如何表现的。
“另一个非常重要的问题是，我们有一个非常先进的威胁研究团队，该团队一直在研究这些人工智能攻击，并了解如何进一步增强这些攻击。事实上，我们正在为 MITRE、OWASP 和 NIST 等标准组织内部的工作组做出贡献。”
除了防止有害输出，思科还解决了人工智能模型易受外部恶意影响而改变其行为的问题。这些风险包括提示注入攻击、越狱和训练数据中毒--每种风险都要求采取严格的预防措施。
IDC 安全与信任集团副总裁弗兰克-迪克森（Frank Dickson）就网络安全随时间的演变以及人工智能的进步对该行业的意义发表了自己的看法。
他说："第一个宏观趋势是我们从内部部署转向云，这就带来了一系列我们必须解决的新问题。然后，随着应用程序从单体转向微服务，我们又看到了一系列新的问题。
来自 IDC 的 Frank Dickson 在一篇关于人工智能时代企业安全的文章中的头像。
“人工智能和 LLM 的增加......同样的事情，一大堆新的问题"。
随着应用程序变得多模型化，人工智能安全的复杂性也随之增加。漏洞可能出现在从模型到应用程序的各个层面，牵涉到开发人员、最终用户和供应商等不同的利益相关者。
“一旦应用程序从内部部署转移到云，它就会停留在那里。是的，我们跨多个云开发应用程序，但一旦你把应用程序放到 AWS、Azure 或 GCP 中，你就不会每月、每季度或每周在这些不同的云环境中跳转，对吗？
“一旦你从单体应用开发转向微服务，你就会留在那里。一旦把应用放到 Kubernetes 中，就不会再跳回到其他环境中。
“当你希望获得 LLM 时，需要注意的重要一点是模式的变化。当我们谈论模型变化时，它并不像一个修订版......这周，也许 [开发人员] 使用 Anthropic，下周他们可能会使用 Gemini。
“它们完全不同，每个模型的威胁矢量也完全不同。它们都有各自的优势，也都有各自显著的弱点"。
与集成到单个模型中的传统安全措施不同，思科通过其最新发布的人工智能防御系统为多模型环境提供控制。该解决方案可以自我优化，使用思科专有的机器学习算法来识别不断变化的人工智能安全和安保问题，并以思科塔洛斯（Cisco Talos）的威胁情报为依据。
