快速跳转

什么是延迟敏感型应用?

复制 URL

并非所有应用或环境都能满足高度分散的轻量型工作负载的需求。边缘计算与传统的集中式数据中心/云不同,是指在用户或数据源处及其附近发生的计算。各种基础架构都会涉及边缘计算。一方面,您自用的网络边缘上会有平价的便携式设备,它们有着有限的计算资源(例如,智能手机和手持型平板电脑等移动边缘计算设备);IT 领域的权威调查机构 IDC 将之称为"轻边缘"。另一方面,还有"重边缘",它是指数据中心/远程办公室配置之类的对象,其中拥有大型服务器和大量用户(及数据事务)。

不论基础架构归属于哪种类别,都承载了一些共同的需求和期望。究其核心,就是用户和设备需要能够实时执行事务,以满足客户期望和性能服务级别协议(SLA)。这就要求,这些环境中的高效应用必须能够达到特定的性能基准。这类应用就称为延迟敏感型应用

在继续探讨什么是延迟敏感型应用前,我们需要先定义一些基本术语:

  • 延迟是指从事件发生到系统处理事件所经历的时间;我们可以简单地把它类比成从 A 点前往 B 点所经历的时间。
  • 带宽(或网络带宽)是指特定时间内可传输的数据量;通常以兆位/秒或千兆位/秒来衡量。特定时间内实际传输的数据量称为吞吐量。有时,高带宽(或高吞吐量)和低延迟需要进行一些权衡取舍,因为很难同时达到这两个的目标值。
  • 数据包是指传输的数据元素。
  • 抖动(Jitter)是延迟的变动,通常发生于网络通信一致性丢失或间歇缓慢时。
  • 实时指的是某个操作在定义的特定时长(通常以毫秒或微秒来衡量)内执行。人们常误以为实时就等于"非常快速";但实时更重要的是确定性,也就是说,要保证操作在一组特定的时间限制内执行,不受其他操作或负载的影响。对于实时处理,每个事务都是离散的;不同于批处理是将多个事务集合到一起。
  • 边缘节点通常指能进行边缘计算的任何设备或服务器。

延迟是基于时间的指标,衡量的是系统实际响应时间与预期响应时间的差异。它通常用于评估网络、硬件、固件和操作系统的性能,既可以单独评估某一项,也可综合评估整个系统。对于延迟敏感型应用,低延迟是好事,因为这表示启动操作和产生响应之间的延迟很短。高延迟则不好,因为这表示速度比较缓慢,并且对于有些类型的数据,这可能还意味着数据包被丢弃或丢失。延迟也应当保持稳定——即便平均延迟结果良好,但如果抖动太多会造成网络不可靠。

例如,AI 驱动的自动驾驶汽车就是一种基于边缘的延迟敏感型应用。车载计算机仅有几毫秒时间来识别道路中是否有行人或其他物体并处理航向修正。所有数据处理和人工智能必须限定在车内,实时遥测数据则传回到网关或数据中心。这一应用非常关键;信用卡交易或视频会议时如果出现卡顿,无非是让最终用户体验不佳,但自动驾驶如果出现故障,那可能就危及性命。电气电子工程师学会(IEEE)的这篇文章概述了许多现代技术对延迟敏感型应用的依赖情况。

人们通常将延迟视为一种速度因素,但是,将延迟作为总体系统性能的一个方面加以考量,才更为准确。延迟是通过观测事件启动和完成之间的时间间隔而得出的。对于不同的应用,这种时间限制也会有所不同。例如,自动驾驶汽车的延迟就是硬限制;它的处理必须即刻完成,否则可能会出现重大系统故障。

而有些工作负载则不要求低延迟。换而言之,操作在启动和响应之间,可以有比较长的时间间隔。这些工作负载是异步的;也就是说,启动和完成之间的时间不可观察或者并不重要。例如,电子邮件等服务可以接受高延迟,因为电子邮件发送之后,接收电子邮件所需的时间不容易被终端用户观察到。

在复杂的环境中,不论是单一系统还是多个交互系统,延迟的影响会累积。无论操作需要按顺序还是并行完成,总体系统效率都可能会受到关键操作的总延迟的影响。在这种情形中,速度并不是主要因素:一致性才是关键指标。这称为确定性延迟,意思是某个操作的预期延迟(或所有操作的总延迟)是可预测的,且具有一致性。这一点在需要对多个设备进行同步的场景中很重要,例如相控阵雷达、电信设备或制造设备。

简而言之,在功能上,延迟敏感型应用等于实时应用。这包括高延迟或可变延迟会给应用性能造成负面影响的任何应用,因此操作需要在通常以微秒为计的确定时间窗内发生,它们也称为低延迟应用。

还有更直观一点的叫法,就是将应用描述为延迟敏感型应用(延迟会影响性能,但应用依然能运行)和延迟关键型应用(延迟超过一定点会导致故障)。

延迟通常用网络性能来描述,但延迟敏感型应用表明,网络质量往往不是延迟的唯一原因。影响处理时间的因素可能也会影响延迟。

虚拟化和使用虚拟机时,不同的虚拟进程会互相争抢 CPU 资源以及内存和存储等共享资源。甚至电源管理和事务处理等系统设置也会影响不同进程对资源的访问。

云计算环境也可能会面临类似的挑战。硬件环境中抽象层越多,越难以优化处理时间并最大程度减少核心应用延迟的方式来分配处理和共享资源。Amazon Web Services(AWS)等云提供商可能会提供针对延迟敏感型应用和延迟关键型应用的部署与优化。

在处理延迟敏感型应用时,总体操作环境和底层硬件,与网络基础架构和配置对创造可靠性同样重要。

边缘架构通常被比作洋葱,一层一层的硬件组成的同心圆从位于中央的数据中心铺展开去。每一层具有其自身的架构和考量,并且这些不同的用例也需要不同的解决方案。

边缘架构的外环更加接近数据生成的交互,例如客户/用户或托管设备。这些边缘需要迅速响应瞬息万变的条件和新数据;因此,最有可能在这些地方部署延迟敏感型应用或实时应用。这些也是距离共享数据存储最远的层,更有可能采用轻量的小型硬件,如平板电脑或物联网(IoT)设备。

在这种情况下,IT 决策者可以制定有效的流程和策略,来确保延迟敏感型应用和总体边缘计算机保持高性能。这些举措包括:

  • 具有清晰的中央化开发和部署管道。
  • 具有一致并且兼顾软件与硬件的更新和管理策略。
  • 将性能测试集成到所有管道中。
  • 尽可能实施自动化
  • 定义标准的操作环境来实现跨边缘一致性。
  • 利用一致且开放的标准和方法实现互操作性。

对于工业物联网(IIoT)、高性能计算和其他分布式架构来说,这些最佳实践也大同小异。边缘或 IoT 不是最终状态,而是实现特定目标的手段。同样,延迟敏感型应用的优势并不只是因为越快越好。这些应用有助于实现快速数据处理能够创造出色的客户体验,或者安全、高效地管理大型设备等目的,响应不断变化的操作条件,以及适应新的输入。

与在物理数据中心和服务器机房里一样,操作系统在边缘和云环境中也同样重要。操作系统可提供资源置备和管理等对延迟敏感型应用而言至关重要的核心功能,还可满足安全和网络配置等其他 IT 要求。

对于延迟敏感型应用,问题的关键是有多少数据需要在数据中心或云端查看,而要不要将活动移交至本地运行则没那么重要。这是一种数据数量和速度之间的平衡。

如果本地处理中存在延迟风险,则可以利用特定的工具来帮助提升系统性能。此外,也可以设计架构,利用各种不同的工具和技术来减轻延迟的影响。

解决架构中的延迟

根据采用的方法,您可能会更关注网络内的延迟要求,这意味着,您的边缘架构对服务高效运行具有重要影响。对于网络延迟,您的边缘架构需要能够在本地(边缘本身)处理数据,而不是将原始数据发送到数据中心进行处理并发送响应。如果能够在边缘处理应用的数据,就可以减轻对高延迟网络的依赖。

用于分布式计算的红帽® 企业 Linux® 提供了边缘优化功能,可在包括数据中心、云和边缘的分布式混合云架构中部署应用工作负载,并提供一个开放且一致的操作环境。用于分布式计算的红帽企业 Linux 可以安装至边缘端点和网关,使应用能够在本地分析和处理数据,同时将相关更新和数据分析发送到位于云端或数据中心中的服务器。这可以减少对高延迟、带宽不一致和间歇连接网络的依赖。

解决系统延迟

对于延迟敏感型应用来说,时间至关重要。即便是设计精良的架构,在边缘部署高性能系统用于本地处理依旧是明智之举。

延迟敏感型应用需要一个高度可调优的操作环境。用于 Real Time 的红帽企业 Linux 是一个特殊的软件包,旨在实施针对延迟敏感型环境而专门设计的算法和子系统变更,满足这种环境中对超越普通性能调优的可预测性和速度的需求。

用于 Real Time 的红帽企业 Linux 包含支持关键配置以提高实时性能所需的底层实用工具:

  • 优化硬件和内存配置,以及使用并行编程技术编写的应用。
  • 控制多线程多进程应用的执行。
  • 检查硬件系统的适用性。
  • 定义缓存行为。

依托更广阔的生态系统

这正是红帽生态系统的强大之处。借助面向用于 Real Time 的红帽企业 Linux 和用于分布式计算的红帽企业 Linux 的认证硬件配置和供应商,您能够放心确保边缘应用将按照您的具体要求运行。

另外,红帽企业 Linux 也可与红帽® OpenShift®(用于 Kubernetes 容器编排和部署)、红帽® Ansible® 自动化平台(用于自动化)和红帽中间件(用于流程和决策管理、数据流、集成以及其他工具)集成。

边缘作为一种策略,能够在需要时提供洞察和经验。用于 Real Time 的红帽企业 Linux、用于分布式计算的红帽企业 Linux 以及红帽产品组合中的其他产品能够为实施这一策略奠定牢固的基础。

继续阅读

文章

物联网与边缘计算

物联网需要计算能力更接近物理设备或数据源的实际位置。而边缘计算则可为物联网提供本地处理和存储源。

文章

什么是边缘计算?

边缘计算是指在用户或数据源的物理位置或附近进行的计算。

文章

电信领域的边缘计算

很多电信服务提供商正在努力实现网络现代化并寻求新的收入来源,因此,边缘计算就成了他们的优先重点。

详细了解边缘

产品

多面全能、成熟稳定的技术平台,能帮您轻松部署新型应用、虚拟化环境和创建更为安全的混合云。

企业级应用平台,包含一系列久经测试的服务,可在您选择的基础架构上将应用推向市场。

面向边缘轻量部署而优化的企业软件产品组合。

相关资源

摘要

边缘计算的应用场景:太空

简报

互联云架构的未来

案例研究

全球科技公司将 5G 采用推向网络边缘