Red Hat 攜手 NVIDIA 推出 Red Hat AI Factory，加速實現大規模生產級 AI

世界領先開放原始碼軟體解決方案供應商 Red Hat 近日宣布推出 Red Hat AI Factory with NVIDIA，這是一款與 NVIDIA 共同打造的軟體平台，結合 Red Hat AI Enterprise 與 NVIDIA AI Enterprise，為大規模部署 AI 的企業提供端到端的最佳化 AI 解決方案。Red Hat AI Factory with NVIDIA 是雙方深度合作的最新里程碑，旨在將最新的 AI 創新技術加速交付給企業客戶，同時為 NVIDIA 硬體架構提供 Day 0 支援。

隨著代理式 AI（Agentic AI）應用程式的蓬勃發展，預計至 2029 年企業 AI 支出將超過 1 兆美元^[1]。企業正積極將其策略轉向為高密度、代理式工作負載，並致力於解決隨之產生的 AI 推論與基礎架構需求。為協助企業在 AI 時代應對上述挑戰，Red Hat AI Factory with NVIDIA 可賦能 IT 營運團隊，使其得以簡化涵蓋傳統基礎架構與持續演進的 AI 堆疊需求的管理流程。

Red Hat AI Factory with NVIDIA 讓企業加速邁向生產級 AI，並為 AI 工廠（AI factories）提供軟體平台。該平台運行於加速運算基礎架構上，為模型及驅動推論堆疊的 NVIDIA GPU 提供更高的效能。此平台支援 Cisco、Dell Technologies、Lenovo 與 Supermicro 等頂尖系統製造商的 AI 工廠基礎架構，賦能 IT 管理員與營運團隊以管理任何企業工作負載般同規格的營運嚴謹度與可預測性，擴展並維護 AI 部署。

Red Hat 技術長暨全球工程資深副總裁 Chris Wright 表示：「從 AI 實驗階段轉向工業級規模、涵蓋全企業範疇的生產環境，需要徹底改變我們管理 AI 運算堆疊的方式。透過 Red Hat AI Factory with NVIDIA，我們正加速 AI 的部署並快速邁向生產階段。憑藉我們經驗證的混合雲產品所驅動、穩定且高效能的基礎，得以賦能客戶掌握其 AI 策略，並以應用於核心 IT 平台同等的嚴謹度進行擴展。」

NVIDIA 企業 AI 平台副總裁 Justin Boitano 指出：「企業正在建立 AI 工廠，以便在推論過程中大規模地將資料轉化為智慧，而這需要橫跨混合雲的生產級基礎架構與軟體。Red Hat AI Factory with NVIDIA 提供軟體基礎，協助企業應對快速的基礎架構創新節奏，同時可靠地建置與部署新一代的代理式 AI 應用程式。」

這個雙方共同打造的軟體平台整合 Red Hat 與 NVIDIA 在開源協作、工程設計及支援方面的專業知識，提供值得信賴的企業級解決方案。Red Hat AI Factory with NVIDIA 為跨環境（無論是地端、雲端或邊緣）的 AI 部署提供具高度擴展性的基礎。其核心功能具備高效能 AI 推論、模型調整、客製化，以及代理部署與管理，並以安全性為核心，使企業得以維持從資料中心至公有雲的架構控制權，並實現以下優勢：

• 加速價值實現時間：透過簡化的工作流程與即時存取預先配置的模型，加速邁向生產級 AI。這些模型包含獲得擔保的 IBM Granite 系列、NVIDIA Nemotron 與 NVIDIA Cosmos 開源模型，並以 NVIDIA NIM microservices 形式交付。此外，企業可使用 NVIDIA NeMo 進一步將模型與企業資料對齊，減少調整時間與成本。
• 最佳化效能與成本：藉由統一的高效能服務堆疊，最大化基礎架構使用率並增強推論效能。Red Hat AI Factory with NVIDIA 提供內建的可觀測性功能，並運用由 vLLM、NVIDIA TensorRT-LLM 與 NVIDIA Dynamo 驅動的 Red Hat AI 推論能力，以滿足嚴格的 AI 服務水準目標（SLO）。這有助於企業透過最佳化模型與 NVIDIA GPU 之間的連接，降低 AI 的總體擁有成本（TCO）。
• 智慧 GPU 調度：透過智慧調度與池化基礎架構（pooled infrastructure），實現依需求存取 GPU 資源，並具備自動檢查點機制（checkpointing）以保護長時間執行的作業，並在動態環境中維持更可預測的運算成本。
• 強化企業態勢：運用 Red Hat Enterprise Linux 彈性且穩定的基礎，企業可從初始階段即受惠於內建的進階安全性與合規功能，有助於降低風險、節省時間並減少停機時間，為需要隔離與持續驗證的關鍵任務 AI 工作負載提供安全性強化的基礎。NVIDIA DOCA 微服務奠基於此基礎打造零信任架構，並在整個基礎架構中提供 AI 執行期間的安全性。

服務提供狀態

Red Hat AI Factory with NVIDIA 現已推出. 

客戶證言

Cisco 運算資深副總裁暨總經理 Jeremy Foster 分享：「Cisco 專注於協助客戶將 AI 從實驗階段安全且大規模地推向生產並橫跨分散式環境。透過支援 Red Hat AI Factory with NVIDIA，Cisco 賦能企業無論是資料中心或邊緣環境，皆可在一致的企業級基礎架構上部署與運行 AI。我們攜手合作為客戶提供更簡單、更可靠的方式執行 AI 關鍵任務工作負載，並具備對核心基礎架構所期望的效能、安全性與營運控制。」 

Dell Technologies 基礎架構解決方案事業群資深副總裁暨技術長 Ihab Tarazi 表示：「企業正迅速將其 AI 投資轉化為實際營運，而這需要能在跨混合環境中可靠運行、強大且整合的基礎架構。透過與 Red Hat 和 NVIDIA 的合作，我們將為客戶帶來更高水準的整合，進一步加速企業 AI 的成果。」

Lenovo 基礎架構解決方案事業群資深副總裁 Vlad Rozanovich 表示：「企業 AI 的下一個世代在於即時行動與實質的商業報酬，而工業級強度的混合基礎為關鍵。我們能夠提供可擴展的企業級平台，結合 Lenovo 的推論最佳化基礎架構與 Red Hat AI Factory with NVIDIA，為客戶提供即時優勢。此具韌性的代理式 AI 基礎，可在其營運的任一地點進行部署與管理。」

Supermicro EMEA 總裁暨董事總經理、技術與 AI 資深副總裁 Vik Malyala 表示：「Supermicro 擁有廣泛的 Red Hat 認證系統產品組合，並致力於為 AI 工廠提供最先進的加速運算基礎架構。我們針對 Red Hat AI Factory with NVIDIA 的驗證解決方案，有助於確保客戶能夠將我們的高效能專用系統與強大的企業級軟體平台相結合，簡化關鍵 AI 企業工作負載的部署與擴展，協助企業在混合雲中實現更快的價值實現時間，以及可預測、高效率的營運。」

[1] IDC《代理式 AI 將主導未來五年的 IT 預算擴張，預計超過 26% 全球 IT 支出，並於 2029 年達到 1.3 兆美元》，2025 年 8 月 26 日。