AI501
借助红帽 AI Enterprise 实现 GenAIOps 赋能
课程概述
体验能够帮助团队在生产环境中可靠且高效地构建、部署和维护生成式 AI 应用的实践、文化和工具。
《借助红帽 AI Enterprise 实现 GenAIOps 赋能》(AI501)是一个为期五天的沉浸式赋能课程,采用红帽特色教学模式,帮助团队掌握阐明并实现其 AI 愿景所需的技能。与多数仅聚焦特定框架或技术的 AI 培训计划不同,本课程涵盖了这些工具在一个完整的生成式 AI 运维工作流中协同工作的方式,将 AI 赋能型应用(而非仅模型本身)作为交付单元。
为达成学习目标,建议吸纳来自企业组织内不同岗位的学员。AI 工程师、应用开发人员、平台工程师、架构师及 IT 经理将获得突破传统职能壁垒的协作体验。日常课程模拟真实交付团队构建 AI 驱动型应用的工作模式,让跨职能团队在实践中领悟协作如何孕育创新。通过分享经验与最佳实践,团队可运用所学知识,助力企业组织在推进生成式 AI 计划过程中实现文化升级与战略目标。
本课程基于红帽 AI Enterprise 编写,包括红帽 OpenShift AI、红帽 OpenShift GitOps、红帽 OpenShift Pipelines,以及生成式 AI 模型与开源库。
课程内容摘要
本课程将带您完整体验 AI 赋能型应用从提示词实验到生产部署的全过程,同时将不同角色聚集起来,通过单一平台实现无缝协作。
- 了解生成式 AI 基础知识,包括词元、上下文窗口和模型行为
- 开展提示词实验并评估您的首个 AI 赋能型应用
- 引入编排层以实现标准化的生成式 AI 开发
- 实施检索增强生成(RAG)以构建知识增强型应用
- 构建具有工具调用能力的自主 AI 代理
- 部署 AI 安全防护措施并实施生成式 AI 安全实践
- 通过为生成式 AI 系统提供指标、日志记录和分布式追踪来实现可观测性
- 探索小语言模型与多模态能力
- 通过量化与压缩技术优化模型
- 实施模型即服务(MaaS)以实现可扩展的 AI 基础架构
本课程的培训对象
本课程生动展现了具有不同角色的人员如何通过学习分享、协作并为实现共同目标而努力,从而取得积极成果并推动生成式 AI 的创新突破。
本课程对于以下目标对象非常有帮助:
- AI 平台用户:构建生成式 AI 应用的 AI 工程师、应用开发人员、数据科学家和数据工程师
- AI 平台提供者:部署和管理 AI 基础架构的 ML/GenAIOps 工程师和平台工程师
- 所有平台的利益相关者:评估和监督生成式 AI 采用策略的架构师和 IT 经理
课程场景涵盖采用大语言模型与生成式 AI 系统的技术要点,提供关于各角色如何协同工作的实用见解。
学习本课程的前提条件
- 参加免费评估,确定本课程是否契合您的技能水平。
- 基于 Chromium 的浏览器
- 学习容器、Kubernetes 和红帽 OpenShift 技术概述(DO080)课程或对 OpenShift/Kubernetes 和容器有基本了解,将大有裨益
- 具备 AI 基础认知,或了解企业如何通过 AI 实现业务价值,将有所助益
课程大纲
核心基础
生成式 AI 基础知识
探索什么是 GenAIOps 以及大语言模型的工作原理,包括词元化、上下文窗口,以及影响模型行为与性能的各项因素。
提示词实验
学习如何通过系统提示词与用户提示词设计高效提示词,配置温度参数与输出参数,并针对特定应用场景优化提示词。
评估您的首个 AI 赋能型应用
实现提示词版本管理,构建评估管道,自动执行测试,并系统性衡量应用质量。
引入编排层
引入编排层以构建生成式 AI 应用,部署后端服务,并实施 GitOps 实践以实现持续部署。
高级主题
集成和编排
部署向量数据库,为知识增强型应用构建 RAG 管道,实现工具调用,并创建自主 AI 代理。
安全性和可观测性
部署 AI 安全防护措施,实施生成式 AI 安全实践,启用指标、日志与追踪这三大可观测性支柱。
建模技术
探索适用于高效部署的小语言模型,以及可处理多种输入类型的多模态模型能力。
优化和部署
应用量化和压缩技术来提高性能,探索微调方法,实施模型即服务(MaaS),并将所有这些技术整合到生产部署中。
企业组织获益
- 许多企业组织面临着诸多挑战:跨团队的运维复杂性和工具泛滥;提示词和配置偏差导致的输出结果不一致;随变更引入的质量回退;缺乏管控的知识对齐引发的模型幻觉;提示词注入和有害内容带来的安全风险;以及阻碍规模扩展的不可预测的延迟和成本。GenAIOps 通过标准化、将提示词和配置视为代码、持续自动化评估、受监管的 RAG、平台强制防护措施以及端到端的可观测性来应对这些挑战。
- 本课程将介绍真实场景下的 GenAIOps 文化理念与现代实践方法。您将完整体验 AI 赋能型应用的全生命周期:从提示词与配置版本管理,到部署、持续评估及 Day 2 运维。完成本课程后,您将具备应用 GenAIOps 理念的能力,并能够借助红帽 AI Enterprise,在企业组织内部推动和引领生成式 AI 转型计划。
个人获益
- 通过学习本课程,您将熟悉生成式 AI 平台,了解红帽 AI Enterprise 在 GenAIOps 生态系统中的定位,并完整体验 AI 赋能型应用的全生命周期。您将掌握可落地的实践模式,用以规模化构建、交付和运行 AI 赋能型应用,学习如何将其从原型推向生产环境并保障稳定性。
下一阶段课程或考试推荐
- 基于红帽 OpenShift AI 的 MLOps 实践(AI500):面向同时开展预测式 AI 与机器学习模型研发的团队
- 红帽 OpenShift 管理二:配置生产集群(DO280):面向希望深入掌握 OpenShift 专业知识的平台工程师
可提供现场培训
如果您想对整个团队进行培训,可以选择在您的场所或者远程进行。
红帽培训订阅
提供关于红帽产品的全面培训和学习路径、行业认可的认证以及灵活动态的 IT 学习体验。
想要了解其他学员对本课程的评价,请访问红帽学习社区。