随着企业将更多人工智能投入生产，该技术在边缘和数据中心的爆炸式增长对带宽、延迟和架构灵活性提出了要求，而传统网络在设计时并未考虑到这一点。
Omdia 的最新数据显示，到 2024 年，所有人工智能流量（包括净新增人工智能应用和人工智能增强应用）将占网络总流量的 39 艾字节。Omdia 研究总监布莱恩-沃什伯恩（Brian Washburn）表示，人工智能增强型应用的非人工智能流量共计 131 艾字节，传统应用流量为 308 艾字节。
Omdia 预计，到 2025 年，这 39 艾字节的人工智能流量将翻一番，达到 79 艾字节，而且人工智能流量将继续以远远超过传统流量的速度增长。沃什伯恩预测，2031 年，人工智能流量将超过传统流量。
新的人工智能净流量包括由视觉处理驱动的应用程序、监控、新游戏和媒体以及人工智能内容生成等用例。人工智能增强流量包括智能转录服务和内容摘要、代码协助和审查、智能分析、自然语言查询和内容过滤器。这还不包括完全私有的网络，如超分频器运行、内部流量和校园。
对于所有企业流量，最近的一个数据来源是 Zscaler，该公司在 3 月份发布的一份报告显示，企业人工智能活动在一年内前所未有地增长了 3464%。根据该报告，在 2024 年的最后 11 个月里，有 3624 TB 的数据被传输到超过 800 个人工智能应用程序，如 ChatGPT。
Salesforce 是一家已经看到影响的公司，该公司已在其基于云的 CRM 平台中增加了生成式人工智能和代理式人工智能功能。
“该公司工程执行副总裁保罗-康斯坦丁尼德斯（Paul Constantinides）说："我们看到数据处理和传输大幅增加，特别是当我们处理更大的数据集以进行模型训练和实时推理时。这意味着需要更高的带宽、更低的延迟和更强大的网络基础设施。
所有这些人工智能活动的增加将使企业重新思考其数据中心网络、云网络、边缘网络和网络安全。
在数据中心，人工智能提出了两种不同类型的网络挑战。在模型训练方面，单个 GPU 和服务器之间的流量很大。
“总部位于西雅图的 F5 Networks 公司首席技术官办公室杰出工程师兼首席布道者 Lori MacVittie 表示："对大量资源（尤其是 CPU 和 GPU）的需求正在推动企业数据中心内形成一个专门用于人工智能的新区域。“这些人工智能工厂有与流量引导相关的特殊网络需求，需要更智能的网络、新的安全功能以及处理更大量数据的能力。”
