红帽咨询：AI 平台基础

各行各业的领导者都在转向生成式 AI（生成式人工智能），以重塑业务流程并打造全新的客户体验。红帽拥有业界领先的开放混合云平台之一，可帮助企业组织开发、部署和管理从数据中心到云环境的尖端 AI 应用。

然而，在将 AI 应用从试验阶段推进至生产阶段的过程中，将会面临一系列独特的挑战，包括限制性的图形处理单元（GPU）成本、复杂的模型服务要求，以及阻碍大语言模型（LLM）可重复微调和部署的不一致开发环境。

为帮助应对这些挑战，红帽推出了红帽® AI，该解决方案包含红帽 AI 推理服务器、红帽 OpenShift® AI 和红帽企业 Linux® AI，共同构建了一个灵活、端到端的开源工具平台，全面支持整个 LLMOp 生命周期，涵盖数据准备、模型微调、可扩展推理和监控等环节。为推进这一进程，红帽咨询：AI 平台基础帮助客户构建所需的 LLMOps 策略和 AI 平台，以快速实施生成式 AI 应用并取得切实的业务成果。

红帽咨询推出了“AI 平台基础”服务项目，旨在帮助客户快速部署和采用红帽 AI 平台，同时推动其 AI 实践的发展。有了这个中心平台，用户便可以访问标准化的库和工具，提高计算能力，实现更高效的协作，并改善数据科学家、AI 工程师和其他用户的入门体验。

在这种服务模式下，红帽专家将加入企业组织的团队，评估当前环境和方法，并明确未来的需求。采用 GitOps 方法部署和管理此红帽 AI 平台，并将其与客户环境中的其他工具集成，以实施强大的端到端平台。

架构会议

红帽顾问将提供实训体验，重点聚焦多集群部署场景（如开发、测试和生产集群），并可扩展至数据科学家、AI 工程师及应用开发人员等终端用户群体。

我们将从架构会议开始，帮助确定现有系统中的任何关键集成点，并明确满足每位客户独特需求所需的其他工具。红帽咨询可以协助客户选择其 AI 平台所需的工具和模型。红帽咨询还将进行架构审查，以了解客户的环境并确定如何使用和采用红帽 AI。 

团队协作

在这些架构会议结束后，红帽咨询师将与团队合作，协助执行架构设计会议中明确的第三方工具组件的部署和配置工作。在此阶段，红帽咨询师可能会参与以下事宜： 

• 与团队协作，适当调整配置规模、与数据系统集成并配置 GPU 等硬件加速器。
• 协助部署、配置和集成第三方工具。
• 整合现有的平台功能（如无服务器、GitOps、管道），以满足平台要求。

自定义

红帽深知每个客户都有不同的业务目标，因此我们会根据架构设计会议定制服务内容，重点关注： 

• 开发用于模型训练、模型部署和数据集成的自定义管道。
• 为交付自定义 Notebook 创建管道。
• 建立模型即服务（MaaS）。
• 创建管道以对模型准确性进行基准测试和评估。

红帽将“搭建集群管理团队、基础架构团队与数据科学家之间的协作桥梁”，作为此服务的优先事项与核心基础。红帽直接与两家企业组织合作，提供团队支持，以维持当前状态，并为满足未来需求奠定基础。

成功建立 AI 平台基础后，红帽将直接与数据科学家和 AI 工程师合作，帮助他们快速入门并提供定制服务，以改善他们的用户体验。

注意事项

无论您的团队处于生成式 AI 之旅的哪个阶段，红帽都能为您提供支持。如果客户希望超越模型实验阶段进行运维并制定将模型部署到生产环境的策略，那么将红帽咨询：实施 AI 作为 AI 平台基础的后续服务项目是非常不错的做法。

红帽服务包括红帽咨询、红帽培训与认证以及红帽大客户技术经理服务（TAM），可为客户提供关于构建现代云应用的全面支持和指导。 

咨询：红帽咨询通过实训指导帮助客户提升技能、培养自主能力，同时简化流程、协调团队，并确保系统和应用协同运作。

培训：通过开发新兴和基础开源技术方面基于角色的实训课程，帮助缩小技能差距，并强化团队的红帽产品专业知识。查看我们围绕红帽 AI 打造的强大课程体系。 

红帽 TAM：TAM 与企业组织携手合作，主动解决潜在问题以避免造成影响、最大限度减少业务中断，并助力企业组织聚焦关键业务挑战。

红帽不仅致力于帮助客户交付他们的第一个 AI/ML 模型，还希望为他们的所有 AI/ML 系统奠定基础。通过创建可重复使用的模式来训练和部署 AI/ML 模型，使其成为生产就绪型解决方案，红帽致力于帮助客户成功交付面向未来的 AI/ML 项目。 

通过采用 GitOps 方法，红帽咨询可协助置备数据科学项目，加速 AI/ML 模型的构建、训练、测试、部署和监控流程，并跨混合云和边缘环境（从基于云的集群到完全断开连接的本地环境）以一致的方式将模型部署到生产环境。

想进一步了解红帽的 AI 服务？联系您的红帽客户团队，或咨询顾问。