红帽 OpenShift AI

红帽® OpenShift® AI 是一个灵活的混合云平台，可大规模部署开放权重模型和自主代理。

快速链接

观看红帽 OpenShift AI 演示。视频时长：5:59

红帽 OpenShift AI 整合了全面的 MLOps、GenAIOps 和 AgentOps 功能，可加速将代理式 AI 应用部署到生产环境中。

借助 PyTorch、Kubeflow、MLflow 和 vLLM 等开源工具，团队可以大规模试验、服务和交付 AI 模型和应用。

访问预构建或自定义的集群镜像，并使用您首选的框架。使用经过红帽测试和验证的 AI 工具，这样您就可以专注于重要的事情。

可靠地管理成本、数据隐私和代理生命周期，为 MLOps 奠定坚实的基础。借助我们经过优化、可直接投入生产且已通过红帽 OpenShift AI 验证的第三方模型，提升可见性。

在单个 AI 应用平台中与数据科学家、AI 工程师和开发人员协作，并跨混合云（本地、边缘或非联网环境）部署模型。

当您快速扩展时，您一定不希望安全威胁拖慢您的速度。借助红帽 OpenShift AI，您可以在规模化扩展时获得额外的可见性。

过滤有毒、有偏见或不相关的输入与输出，以维护公平性和安全性。借助实时 NeMo 护栏等工具保护模型免受恶意攻击，并使用对抗性漏洞扫描来防止幻觉和偏见。

了解如何保护您的生成式 AI 模型。视频时长：10:02

功能	详细信息	优势
代理式 AI	使用 MLflow 为代理式 AI 实施 AgentOps。	实现模型与工具的端到端可追溯性。
vLLM	vLLM 通过高效利用 GPU 资源，帮助管理生成式 AI 推理的成本。	在规模化部署场景下，以更低的每词元成本和稳定的延迟，加速 AI 推理。
MCP 服务器	模型上下文协议（MCP）服务器会主动治理和转译外部工具访问。	这可通过托管访问和安全防护，简化您的代理式工作流。
私有 AI	私有 AI 提供本地和非联网模式支持。	通过 AI 层，强化您的数字主权战略。
模型即服务	MaaS 将 IT 从词元消费者转变为内部服务提供商。	获得对高性能模型的自助服务访问权限，并由开发人员进行管控。
llm-d	llm-d 在开源框架中提供标杆路径，用于大规模优化复杂的 LLM。	充分利用在您选择的 Kubernetes 发行版上运行的 AI 基础架构。
AI Hub	AI 中心提供来自第三方模型验证的性能分析洞见。	集中管理值得信赖的基础 AI 资产，包括 LLM。
生成式 AI 工作室	生成式 AI 工作室提供了一个用于与模型交互的实训环境。	通过该实训环境快速构建生成式 AI 应用的原型。