快速链接
什么是红帽企业 Linux AI？
红帽企业 Linux AI 将两个移动部件整合到一起：
- 红帽 AI 推理：提供运维控制，以便在任何环境中于任何加速器上运行任何模型。
- 红帽企业 Linux 的可引导镜像：包含硬件优化推理以及 PyTorch 等热门 AI 库。
优势
开源生成式 AI 模型
访问企业级开源 Granite 系列模型。
经济高效的推理
利用 vLLM 优化 GPU 使用，在不影响性能的情况下提升效率。
灵活、一致的部署
跨多种硬件和操作系统，在您需要的任何位置（数据中心、云或边缘）运行模型。
使用红帽 AI 实现 233% 的投资回报率
红帽委托 Forrester Consulting 开展了一项总体经济影响™（TEI）研究，分析企业通过部署红帽 AI 可能实现的潜在投资回报率（ROI）。
通过采访红帽 AI 客户，分析结果显示一家综合型企业组织在三年内实现了 233% 的 ROI，这意味着总价值达到初始投资的三倍以上。1
产品亮点
| 功能 | 详细信息 | 优势 |
|---|---|---|
面向企业的 LLM | 使用您自己的数据对小型专用模型进行调优。 | 灵活的模型调优和部署选项，让您的团队能够按照自己的方式加速推进工作。 |
经过优化的可引导模型运行时实例 | 将您的 AI 平台作为容器镜像进行管理。Granite 模型通过镜像模式打包为可引导的红帽企业 Linux 镜像，其中包括 PyTorch、所需的运行时库以及适用于 NVIDIA 的硬件加速器。 | 利用容器技术，以简单、一致的方式构建、部署和管理操作系统。 |
vLLM | 通过优化 GPU 使用率，最大限度地提高吞吐量并最大限度地减少延迟。 | 高效推理，且每词元成本更低。 |
LLM Compressor | 压缩任意规模的基础模型和经过训练的模型，以减少计算资源消耗及其相关成本。 | 在不影响数据质量或响应准确性的情况下，加快模型推理速度。 |
混合云可移植性 | 使用统一的高性能平台来满足您的业务需求，无论您的数据位于何处。 | 在各种加速器、Kubernetes 和 Linux 环境中运行您选择的模型。 与可观测性工具集成以增强监控，同时还支持 LLM API（例如 OpenAI 的 API），从而实现灵活部署。 |
经过优化的模型存储库 | 访问一系列预先优化的模型，其中包括对 vLLM 和 NVIDIA NIM 的支持。 | 开箱即用的模型部署方案，助力企业实现更快的推理。 |
企业级技术支持 | 获得实训支持以及开源保证法律保护。 | 向红帽 AI 专家和顾问咨询，这样您就不必靠猜测，也不会耽误进度。 |
为什么选择红帽 AI？
构建在值得信赖的基础上，跨混合云支持任何硬件加速器上的任何模型和任何代理。红帽 AI 赋予企业组织自由部署的能力，满足其在数据、合规性和成本等方面的需求。
推理
利用由 vLLM 提供支持的快速高效的推理，以及跨混合云在任何加速器上运行任何模型的灵活控制能力，轻松管理模型复杂性。
数据
使用连接企业组织私有数据的模型，自定义特定领域的代理式 AI 用例。
代理
利用治理和控制功能简化部署过程，加速代理式 AI 落地。
平台
在具有开源透明度和混合云可扩展性的基础上，部署有弹性、可信赖的 AI 解决方案。
与合作伙伴共同部署
红帽 AI 汇聚了众多专家和各种技术，让客户能够利用 AI 实现更多目标。了解与红帽携手合作、认证他们的产品能否与我们的解决方案无缝衔接的所有合作伙伴。
常见问题解答
红帽企业 Linux AI 与红帽企业 Linux 有什么区别？
红帽企业 Linux AI 是用于在单个服务器环境中运行 LLM 的基础模型平台。该解决方案包含红帽 AI 推理，可通过最大限度地提高吞吐量、最大限度地减少延迟并降低计算成本，提供快速、经济高效的混合云推理。
红帽企业 Linux 是由红帽面向商业市场开发的商用开源 Linux 发行版，提供了灵活且稳定的基础以支持混合云创新。
红帽企业 Linux AI 以红帽企业 Linux 可引导镜像的形式提供，其中包含 AI 库和 Granite 模型。
是否需要购买红帽企业 Linux，才能使用红帽企业 Linux AI？
不需要，只需红帽企业 Linux AI 许可证即可，该许可证包含所需的所有组件。
红帽企业 Linux AI 包含哪些内容？
红帽企业 Linux AI 包含一个可引导的红帽企业 Linux 容器镜像，其中集成了以下组件：
- 红帽 AI 推理。
- 开源许可的 Granite 模型。
- Pytorch 及运行时库。
- 加速器驱动程序（适用于英伟达、英特尔、AMD）。
红帽企业 Linux AI 与红帽 OpenShift AI 有什么区别？
红帽企业 Linux AI 在单台服务器中提供开箱即用的大语言模型。该解决方案包含红帽 AI 推理，这是一个专为推理任务而设计的不可变设备。通过将操作系统（OS）与应用打包整合，红帽企业 Linux AI 能够最大限度减少延迟并降低计算成本，从而为混合云中的 AI 推理提供即装即用的运维支持。
红帽 OpenShift® AI 提供了帮助客户大规模构建 AI 赋能应用所需的全部工具。红帽 OpenShift AI 是一个全面集成的 MLOps 平台，可协助管理模型生命周期，确保支持分布式计算、协作工作流、监控以及混合云应用。
红帽 OpenShift AI 包含对红帽企业 Linux AI 的访问权限，因此各团队可以在其 OpenShift AI 架构中使用相同的模型和对齐工具，同时还能受益于更多企业级 MLOps 功能。
红帽企业 Linux AI 如何定价？
红帽企业 Linux AI 许可证按加速器数量定价。
探索更多 AI 资源
快速高效推理的用例
利用开源模型，释放 AI 创新潜力
为什么要关注推理
利用红帽 AI 释放生成式 AI 创新潜力
联系红帽，咨询红帽 AI 相关事宜
1红帽委托 Forrester Consulting 进行的研究，“Forrester 发布的《红帽 AI 的总体经济影响™》”，2026 年 2 月。
