红帽企业 Linux AI

红帽® 企业 Linux® AI 平台可用于在独立的服务器环境中运行大语言模型(LLM)。该解决方案包含红帽 AI 推理服务器,通过最大限度地提高吞吐量并尽可能减少延迟,在混合云中实现快速且经济高效的推理

RHELAI 界面图片

什么是红帽企业 Linux AI?

红帽企业 Linux AI 汇集了:

  • 红帽 AI 推理服务器:支持广泛的硬件,可在混合云中实现快速且一致的模型部署。
  • 红帽企业 Linux 的可引导镜像:包括 PyTorch 等热门 AI 库,以及针对英伟达、英特尔和 AMD 的硬件优化推理。
  • 企业级技术支持和开源保证法律保护。 

快速且灵活的推理

在实施生成式 AI 时,您有两种选择:调整自身策略以适配预构建产品,或是开发直接契合业务目标的自定义解决方案。 

红帽企业 Linux AI 植根于开源技术,提供了安全可靠的基础架构,支持在混合云环境中、任意硬件上、搭配任意加速器运行任意模型。该解决方案包含红帽 AI 推理服务器,这是一个专为推理任务而设计的不可变设备。操作系统则与 AI 推理服务器进行了整合,支持您立即启动模型服务。借助集成的 vLLM 运行时和 LLM Compressor,您还能够最大限度地提高吞吐量并尽量减少延迟,从而实现快速且经济高效的模型部署。 

功能和优势

开源气泡图标

面向企业的 LLM

使用检索增强生成(RAG)等方法,结合自有数据对规模更小、专为特定用途打造的模型进行调优。

提升效率

红帽 AI 推理服务器基于 vLLM 技术,可在不牺牲性能的前提下提升效率。 

表示“简化”的图标

云原生可扩展性

红帽企业 Linux 镜像模式可将 AI 平台作为容器镜像进行管理,从而简化您的扩展方式。

能够满足您需求并按您意愿运行的 AI。

生成式 AI

生成式 AI

制作文本和软件代码等新内容。 

借助红帽 AI,您可以更快地运行您选择的生成式 AI 模型,同时减少资源消耗并降低推理成本。 

预测性 AI

预测性 AI

应用模式并预测未来结果。 

借助红帽 AI,企业组织能够构建、训练、部署和监控预测模型,同时在混合云环境中始终保持一致性。

运营化 AI

运营化 AI

创建支持大规模维护和部署 AI 的系统。 

借助红帽 AI,在节省资源并确保遵守隐私法规的同时,管理与监控支持 AI 的应用的生命周期。 

代理式 AI

代理式 AI

构建在有限监督下执行复杂任务的工作流。 

红帽 AI 为在现有应用中构建、管理和部署代理式 AI 工作流提供了灵活的方法和稳定的基础。

与合作伙伴共同部署

人工智能(AI)模型训练需要经过优化的硬件和强大的计算能力。通过将红帽企业 Linux AI 与其他集成服务和产品结合使用,可进一步发挥其价值。 

戴尔科技徽标
联想徽标
英特尔徽标
英伟达徽标
AMD 徽标

2025 年红帽全球峰会和 AnsibleFest 大会 AI 客户案例集锦

土耳其航空公司

土耳其航空公司通过实现企业范围内的数据访问,将部署速度提高了一倍。

JCCM 徽标

JCCM 利用 AI 技术,改进了该地区的环境影响评估(EIA)流程。

DenizBank

Denizbank 将上市时间从数天缩短到数分钟。

Hitachi 徽标

Hitachi 借助红帽 OpenShift AI 在整个业务范围内实施了 AI。

常见问题解答

红帽企业 Linux AI 与红帽企业 Linux 有什么区别?

红帽企业 Linux AI 是用于在单个服务器环境中运行 LLM 的基础模型平台。该解决方案包含红帽 AI 推理服务器,通过最大限度地提高吞吐量、尽可能减少延迟并降低计算成本,实现快速且经济高效的混合云推理。

红帽企业 Linux 是由红帽面向商业市场开发的商用开源 Linux 发行版,提供了灵活且稳定的基础以支持混合云创新。

红帽企业 Linux AI 以红帽企业 Linux 可引导镜像的形式提供,其中包含 AI 库和 Granite 模型

是否需要购买红帽企业 Linux,才能使用红帽企业 Linux AI?

不需要,只需红帽企业 Linux AI 许可证即可,该许可证包含所需的所有组件。

红帽企业 Linux AI 包含哪些内容?

红帽企业 Linux AI 包含一个可引导的红帽企业 Linux 容器镜像,其中集成了以下组件:

红帽企业 Linux AI 与红帽 OpenShift AI 有什么区别?

红帽企业 Linux AI 在单台服务器中提供开箱即用的大语言模型。该解决方案包含红帽 AI 推理服务器,这是一个专为推理任务而设计的不可变设备。通过将操作系统(OS)与应用打包整合,红帽企业 Linux AI 能够最大限度减少延迟并降低计算成本,从而为混合云中的 AI 推理提供即装即用的运维支持。

红帽 OpenShift® AI 提供了帮助客户大规模构建 AI 赋能应用所需的全部工具。红帽 OpenShift AI 是一个全面集成的 MLOps 平台,可协助管理模型生命周期,确保支持分布式计算、协作工作流、监控以及混合云应用。

红帽 OpenShift AI 包含对红帽企业 Linux AI 的访问权限,因此各团队可以在其 OpenShift AI 架构中使用相同的模型和对齐工具,同时还能受益于更多企业级 MLOps 功能。

红帽企业 Linux AI 如何定价?

红帽企业 Linux AI 许可证按加速器数量定价。

探索更多 AI 资源

选择合适 AI 模型的四个注意事项

利用开源模型,释放 AI 创新潜力

使用开源小语言模型的四个原因

利用红帽 AI 释放生成式 AI 创新潜力

联系销售代表

联系红帽

请填写以下信息,联系我们的销售团队,了解红帽企业 Linux AI 的定价信息。 
想要了解有关我们合作伙伴关系的更多信息,请访问我们的目录页面