概述
边缘机器学习是指在边缘设备上运行机器学习(ML)模型,以收集、处理原始数据集并从中识别模式。
什么是边缘机器学习?
为了更好地解释边缘机器学习,我们首先来了解一下它的两个组成部分:机器学习和边缘计算。
- 机器学习是人工智能(AI)的一个子集,其中的 AI 能够以远快于人类的速度执行感知任务。
- 边缘计算是指使计算服务在物理距离上更靠近用户或数据源的行为。这些计算服务存在于我们所说的边缘设备上,而边缘设备这种计算机可以实时收集和处理原始数据,从而更快完成更可靠的分析。
边缘机器学习让我们能够在物联网(IoT)等边缘设备上本地运行机器学习模型。
是什么让边缘变得更好?
随着客户期望的提高,对快速且安全的处理能力的需求也越来越大。
如今,公司和客户之间的每一次互动都混合了多种技术和接触点,需要轻松访问设备、数据和应用,从而推动新体验并打造积极的端到端用户体验。
过去,需要通过网络将数据集传输到远程的云端来进行这种处理。但是,由于数据在传输过程中需要经过很长的路径,网络可能难以满负荷运行。这可能会导致诸如延迟、安全漏洞等一系列问题。
借助边缘计算,您可以将人工智能/机器学习(AI/ML)驱动的应用放置在更靠近传感器、摄像头和移动设备等数据源的位置,从而更快地收集洞察、识别模式,然后发起行动,而不依赖于传统云网络。
如何制定边缘策略
边缘计算是开放混合云大计的一个重要组成部分,它可以让您借由一个通用的横向平台在整个架构中获得一致的应用和运维体验。
混合云策略允许企业在自己的数据中心和公共云基础架构(如 Amazon Web Services、Microsoft Azure 或 Google Cloud)上运行相同的工作负载,而边缘策略则更进一步,允许将云环境的功能带到达那些因太偏远而无法与数据中心保持持续连接的位置。
由于边缘计算站点通常只配有有限的 IT 人员甚至没有 IT 人员,因此可靠的边缘计算解决方案应能够使用与集中式基础架构相同的工具和流程进行管理,同时能够在断开连接模式下独立运行。
通常,全面的边缘计算解决方案要能:
- 从核心到边缘采用一致的部署模型。
- 提供灵活的架构选项,以最大程度满足连接性和数据管理需求。
- 自动执行并管理从核心数据中心到远程边缘站点的基础架构部署和更新。
- 大规模置备、更新和维护整个基础架构中的软件应用。
- 即使互联网连接不可靠时,也可以在远程边缘站点继续运维。
- 包含可以进行纵向和横向扩展的可靠软件平台。
- 在面临安全挑战的边缘环境中保护数据和基础架构。
如何制定机器学习策略
构建和实施 ML 模型没有单一的方法,但一直需要收集和准备数据集,将模型开发为智能应用,并从这些应用中获取收入。若要将这些具有集成 ML 能力的应用付诸实施(称为 MLOps),并使它们保持最新状态,需要多方的通力协作,包括数据科学家、开发人员、ML 工程师、IT 运维人员,以及各种 DevOps 技术。
通过应用 DevOps 和 GitOps 原则,企业可以自动化并简化将 ML 模型集成到软件开发、生产、监控、再训练和重新部署的迭代流程,以保持预测的准确性。
借助红帽® OpenShift®,此流程基本上可以分为 4 个步骤:
- 训练:ML 模型在红帽 OpenShift 上的 Jupyter notebooks 上进行训练。
- 自动化:红帽 OpenShift Pipelines 是一种事件驱动的持续集成功能,可帮助将 ML 模型打包为容器镜像,方法是:将待部署的模型
保存在模型存储库中以备部署。使用红帽 OpenShift 构建将保存的模型
转换为容器镜像。
测试容器化模型镜像,以确保它们正常运行。将容器化模型镜像
存储在私有的全局容器镜像存储库(如红帽 Quay)中,对镜像进行分析,识别潜在问题,缓解安全风险和异地复制。
- 部署:由红帽 OpenShift GitOps 管理的声明性配置可以在任何位置大规模自动化部署 ML 模型。
- 监控:使用我们生态系统合作伙伴提供的工具,监控模型的可靠性、速度、规模等,并根据需要通过重新训练和重新部署来进行更新。
为什么选择红帽边缘 AI/ML?
人工智能和机器学习已迅速成为企业寻求将数据转化为商业价值的关键。红帽的开源边缘计算解决方案专注于加速实现这些商业举措,提供相关的服务来自动化并简化混合云中智能应用的开发流程。
红帽知道,数据科学家在努力构建他们的 AI/ML 模型时,常常因为快速发展的工具之间缺乏协调而面临困难。这进而又会影响团队、软件开发人员和 IT 运维人员之间的生产力和协作。
为规避这些潜在障碍,红帽 OpenShift 服务旨在为用户提供支持,使其在云环境和数据中心内一致地设计、部署和管理智能应用。
大多数企业本可以更好地利用数据,但受到工具和工作流程的限制而难以发挥。红帽® OpenShift® 数据科学提供了一个受支持的自助服务环境,让数据科学家能够通过机器学习模型的开发、训练和测试来优化算法并进行实验。
OpenShift 上的边缘计算在各行各业都很有用,可作为一系列任务的关键工具,如欺诈检测、自动保险报价、自然资源勘探等。