应对 AI 基础架构复杂性,这不应成为创新的障碍。红帽已完成 NVIDIA 云合作伙伴(NCP)计划“AI 云就绪”状态的第一阶段,旨在帮助应对 AI 领域日益增长的复杂性。NCP 构建和运营 GPU 加速的 AI 平台,以基于 NCP 软件参考指南提供和支持针对 AI 优化的全堆栈产品。此参考架构是一个经过验证的完整堆栈蓝图,包括 GPU 服务器、网络、存储和软件,使 NCP 能够以可靠、一致的服务形式交付 AI 能力,而非定制化的一次性构建。
通过与面向 ISV 的 NCP 软件参考架构和验证规范保持一致,红帽为可重复的企业级 AI 部署提供了一致的基础。这种 AI 云就绪状态有助于确保红帽技术(例如红帽 AI)随部署规模的不断扩大,以可预测的方式与 NCP 蓝图进行互操作。企业组织可以更轻松地扩展分布式推理,简化模型与数据的集成,并在混合环境中实现从试点到生产的平稳过渡,同时保障日常运营的可靠性。
这种向生产就绪型 AI 的过渡不仅是一种趋势,也是从实验性实验室项目向核心企业基础架构的决定性转变。红帽与 NVIDIA 携手合作,为这一产业化进程提供了联合设计的软件基础:将 AI 从独立的实验项目,转变为驱动业务转型的集成式、运营化引擎。
全面支持一切即服务(XaaS)框架
作为经过验证的 ISV,红帽使 NCP 能够在其私有数据中心内按需提供云原生资源。这种向“即服务”框架的转变,为训练和繁重的推理工作负载提供了所需的高性能,同时以标准化的工业流程取代了一次性的手动置备方式。红帽 AI 建立在安全至上的基础之上,有助于确保这些“即服务”模式在混合环境中始终保持部署的一致性与运营的可预测性。
通过 NCP 计划,红帽为 NCP 合作伙伴提供了五种关键服务模式:
- 裸机即服务:自动置备物理硬件,以实现最佳性能与隔离。
- 集群即服务:通过红帽 OpenShift 快速部署编排就绪的 Kubernetes 环境。
- 虚拟机即服务:适用于需要特定隔离环境或遗留系统集成的工作负载的虚拟化实例。
- GPU 即服务:对昂贵加速硬件进行智能编排与池化访问,以最大限度地利用裸机或虚拟机(VM)。
- 模型即服务:通过具有多租户治理能力的标准 API 提供的集中托管模型。该模式支持受控使用、简化应用与企业数据的集成,并可通过分布式推理跨多个节点扩展吞吐量并降低延迟。
该框架为企业组织提供了公共云的灵活性,同时又不牺牲安全性,以及对数据位置、访问控制和运营治理的主权。通过在红帽基础架构上托管模型服务,NCP 可以直接实现效率提升,而不是将这部分利润让给云服务提供商。此外,由硬件、软件和服务合作伙伴组成的庞大生态系统,为跨混合云的 AI 提供统一的企业级基础,让企业组织受益匪浅。这个生态系统使企业组织能够秉持一致的运营严谨性,从实验阶段过渡到生产阶段。这种自主性有助于确保 NCP 在准备向机架级架构转型的同时,保持对变更窗口、部署节奏及数据隐私的控制权。
通往 AI 独立与主权的道路
红帽与 NVIDIA 携手合作,为实现 AI 独立和主权铺就坦途。红帽提供对部署生命周期的全栈控制,为提示词及敏感数据提供隐私保护。这提供了跨混合云的平台一致性,并支持可优化企业资产负债率的词元经济。随着代理式 AI 的采用范围不断扩大,红帽 AI 引入了 AgentOps 方法,以提升可观测性和控制力,助力从实验阶段过渡到生产运营阶段。
作为 NCP 计划的一部分,此项验证基于我们近期推出的红帽和 NVIDIA AI 工厂,以及红帽与 NVIDIA 持续开展的联合协作,旨在为整个红帽产品组合中的 NVIDIA 硬件提供 Day 0 支持。这些努力将混合云能力扩展到下一代 AI 工厂规模的加速计算基础架构。
随着行业从实验室阶段迈向企业级生产阶段,红帽携手 NVIDIA,为未来十年的创新提供性能、规模化扩展能力和稳定性。我们鼓励 IT 领导层和平台工程师查看最新的技术规格说明,并启动概念验证,即刻开启 AI 转型之旅。
准备好对基础架构进行现代化改造了吗?探索以下资源,开始向工业化 AI 过渡:
- 了解有关红帽与 NVIDIA 合作的更多信息。
- 立即开始使用红帽和 NVIDIA AI 工厂。
关于作者
Ryan King is Vice President of AI and Infrastructure for the Partner Ecosystem Success organization at Red Hat. In this role, King leads a team in shaping Red Hat's AI strategy with key infrastructure and hardware providers to drive go-to-market engagements and customer success with AI.