在Google Cloud Next 2024大会上，Google宣布推出一系列新的云网络功能，旨在帮助企业安全地连接人工智能和多云工作负载。这些新功能扩展了Google的跨云网络服务，并专注于AI/ML工作负载的高速网络、任意到任意云连接、特定于AI的负载均衡选项、安全增强功能和AI驱动的网络管理功能。
Google的跨云网络服务的核心是去年推出的跨云互连产品，该产品有助于在Google云和其他服务提供商的云之间建立高带宽连接。云网络副总裁Muninder Sambi表示，跨云互连提供10 Gbps或100 Gbps托管加密链接，并支持IPsec VPN或MACsec等安全选项。
Sambi解释说，这一理念是利用Google Cloud跨区域和区域提供高性能、低延迟的网络基础设施，以实现大规模的AI训练。他指出，Gen AI工作负载具有独特的流量模式，具有大量请求和响应。这可能导致处理时间可变，从而影响用户响应时间。为了解决这个问题，智能网络可以根据资源的使用情况和可用性来分发基础模型查询。
Sambi指出，谷歌云最新的网络创新旨在应对这些挑战并优化人工智能工作负载的性能。一个典型的例子是其新的“作为服务终结点模型”解决方案，该功能现已推出。此功能允许模型创建者指定并拥有包含正在开发的特定AI模型的服务终结点。然后，应用程序开发人员连接到该模型。
Model as Service Endpoint解决方案包括Google Cloud的Private Service Connect用于AI模型生产者和消费者连接，它提供了到管理服务网络的链接，而无需离开Google Cloud网络。据Google称，此功能通过允许从Private Service Connect（PSC）接口到Google Cloud的网络连接来实现这一点，然后为该接口分配一个IP地址。该IP地址从由网络连接指定的AI模型或消费者子网链接。然后，AI或消费者和生产者网络连接起来，可以使用内部IP地址进行通信。
Model as Service Endpoint还包括Google的Cloud Load Balancing用于最佳流量分配和访问其App Hub用于服务发现。
展望未来，Google Cloud计划对其Cloud Load Balancing功能进行一系列增强，以用于推理工作负载。例如，可以包括自定义指标进行云负载均衡；这“提供了队列深度作为负载均衡AI工作负载的指标，以更快的用户响应时间提供提示，同时优化TPU和GPU利用率”，Sambi写道。
另一个例子是用于流式推理的云负载均衡，它“使用基于流数、输入字节和输出字节的指标，而不是每秒请求数和CPU利用率来优化性能”，Sambi写道。
最后，Google Cloud将启用具有流量管理的云负载均衡用于AI模型；此功能“监控单个模型服务端点的健康状态，并将请求路由到健康的端点，当检测到中断时启动跨区域故障转移，并在不同模型和模型版本之间分配流量，帮助组织管理推出”，Sambi说。
对于多云连接性，Google正在引入私有服务连接（PCS）过渡性通过网络连接中心（NCC），本季度预览中可用。网络连接中心让企业通过Google Cloud上的集中逻辑中心将其本地网络、Google Cloud资源和其他云环境作为辐条连接起来。
这项新功能将允许在辐条配置的虚拟私有云（VPC）中的服务能够从其他辐条VPC访问。客户将能够设置服务VPC以创建多个PSC消费者端点，这些端点对其他VPC可访问。“与NCC的VPC辐条结合使用，这简化了云网络设计”，Sambi写道。
在安全领域，Sambi强调了跨云网络中的三项新安全创新：
在管理方面，Google Cloud添加了一个名为Gemini Cloud Assist的AI助手，它提供有关网络设计、操作和优化的智能帮助和洞察，Sambi说。
“云管理员可以要求Gemini Cloud Assist解决各种任务和建议，如生成配置、推荐容量、将更改与问题相关联、识别漏洞并优化性能”，Sambi写道。“在预览中，Gemini Cloud Assist加快了网络配置和管理，使组织能够更快、更可靠地交付业务成果。”
根据IDC云和数据中心网络研究副总裁Vijay Bhagavath撰写的IDC最新报告《通过跨云网络加速企业AI之旅》，Google Cloud的跨云网络为任何希望部署混合或多云资源的公司提供了安全、有弹性和高性能的解决方案。
“跨云网络引入了利用来自多个云的服务的概念，并构建了一个应用程序堆栈，该堆栈可能具有由不同云提供商托管的不同层。谷歌云的跨云网络有效地提供了跨多个云的单一云的体验，并简化了网络，以帮助企业加速敏捷性，“IDC报告称。
Bhagavath表示，跨云网络支持传统的网络模型和以服务为中心的架构，这使得跨云连接和保护应用程序变得更加容易，同时将总拥有成本降低多达40%。
“借助以服务为中心的跨云网络，企业可以通过Private Service Connect在混合和多云环境中设置Google Cloud或合作伙伴管理的服务。Google Cloud服务包括Cloud SQL、Looker、Spanner和Vertex AI，合作伙伴管理的服务包括MongoDB、Databricks、Datastax和Redis。Private Service Connect使开发人员和数据科学家能够在几分钟内安全地连接他们的应用程序，弥合DevOps、NetOps和SecOps之间的差距，“Bhagavath说。
