Red Hat Summit엣지 인공지능(Edge AI)이란?
엣지 인공지능(AI) 또는 엣지에서의 AI는 물리적 위치 또는 그 근처에서 데이터를 수집할 수 있도록 엣지 컴퓨팅 과 함께 AI를 사용하는 것입니다. 예를 들어, 이미지 인식 알고리즘 태스크는 데이터 소스에 가까울수록 더 잘 실행됩니다.
엣지 AI를 사용하면 거의 즉시 대응이 가능합니다. 엣지 AI를 사용하면 AI 알고리즘이 기기 위치에서 더 가까운 곳에서 데이터를 처리할 수 있기 때문에 인터넷 연결 여부에 관계없이 데이터가 밀리초 내에 처리되어 실시간 피드백을 제공합니다. 즉 민감한 데이터가 엣지를 벗어나지 않는다는 의미이므로 더욱 안전할 수 있습니다.
엣지 AI와 분산형 AI 비교
엣지 AI는 기존 AI처럼 클라우드 시스템의 백엔드에서 인공지능 모델을 실행하는 대신 네트워크 엣지에서 운영되는 연결된 기기에서 실행합니다. 이렇게 하면 엣지 기기가 메트릭과 분석을 수집할 뿐만 아니라 엣지 기기 내에서 통합된 머신 러닝(ML) 모델을 통해 이를 기반으로 작업을 수행할 수 있는 인텔리전스 계층이 추가됩니다.
인공지능의 목표는 모두 같습니다. 바로 컴퓨터가 데이터를 수집하고 해당 데이터를 처리한 다음 인간의 지능과 유사한 결과를 생성하도록 하는 것입니다. 하지만 엣지 AI의 차이점은 사용 중인 장치 내부에서, 가까운 위치에서, 혹은 로컬로 작업을 수행하고 의사 결정을 내린다는 것입니다.
엣지 AI는 분산형 AI와 어떻게 다른가요?
엣지 AI와 관련된 것은 분산형 AI 로, 전통적인 AI와 엣지 AI의 개념을 모두 사용합니다. 두 가지의 주요 차이점은 데이터가 처리되는 위치와 인공지능 모델이 배포되는 방식입니다. 엣지 AI가 엣지 기기에서 직접 알고리즘을 실행하는 반면, 분산형 AI는 중앙 서버, 엣지 기기 등 서로 연결된 여러 시스템을 사용합니다.
분산형 AI에서는 태스크가 여러 머신 또는 기기에 분할되어 각각 문제의 일부를 처리합니다. 이러한 분산 처리는 데이터 처리에 더 많은 기능을 적용할 수 있고 엣지 AI의 용량 이상으로 확장할 수 있지만 복잡성, 대기 시간, 전반적인 개인 정보 보호 측면에서 장단점이 나타납니다.
클라우드 컴퓨팅은 어떻게 엣지 AI를 지원할까요?
엣지 AI는 클라우드 컴퓨팅 없이는 존재할 수 없다고 해도 과언이 아닙니다. 클라우드 컴퓨팅은 엣지 기기에서 인공지능 모델을 개발, 배포, 관리, 유지하기 위한 인프라, 툴, 서비스를 제공합니다.
교육: 엣지 AI 기기는 중앙화된 서버에서 멀리 떨어져 있기 때문에 일반적으로 딥 러닝 모델을 교육하는 데 필요한 컴퓨팅 성능과 대용량 데이터가 부족합니다. 엣지 AI 기기는 데이터를 클라우드로 전송하여 유사한 기기의 데이터와 결합하여 처리하고 모델을 훈련하는 데 사용합니다. 훈련된 머신 러닝 모델은 엣지의 기기에 재배포됩니다.
배포: 엣지 기기는 최소화되도록 설계되었으므로 훈련된 모델은 리소스가 제한된 엣지 기기에 최적화되어야 합니다. 클라우드 서비스는 엣지에 배포할 인공지능 모델을 준비하는 양자화 및 제거를 위한 압축 툴을 제공합니다.
데이터 동기화: 엣지 AI 기기는 배포 지점에서 신속하게 데이터를 처리할 수 있습니다. 또한 엣지 AI 기기는 더 나은 의사 결정을 내릴 수 있도록 모델을 훈련하기 위해 데이터를 수집합니다. 엣지 AI 기기는 클라우드의 중앙 리포지토리와 정기적으로 동기화되어 엣지 기기가 수집하고 컴퓨팅하는 데이터를 저장하고 처리하는 데 도움이 됩니다. 클라우드로 전송된 데이터는 모델을 훈련하고 기기에 재배포하는 지속적인 학습 에 사용됩니다.
모니터링 및 관리: 엣지 AI 기기는 조직과 사용자 간의 상호 작용에서 가장 중요한 역할을 합니다. 클라우드 플랫폼은 엣지 기기를 실시간으로 모니터링하여 예측 유지 관리를 지원하고 잠재적인 문제가 성능에 영향을 미치기 전에 식별합니다. 또한 클라우드 플랫폼은 필요에 따라 확장할 수 있으므로 여러 기기를 관리하는 조직에 탄력적인 리소스를 제공할 수 있습니다.
Red Hat 리소스
엣지 AI의 장점은 무엇인가요?
엣지 컴퓨팅과 인공지능을 결합하면 엄청난 장점이 있습니다. 엣지 AI로 고성능 컴퓨팅 기능을 센서와 IoT 장치가 위치한 엣지에 적용할 수 있습니다. 시스템 간의 연결성과 통합이 필수가 아니므로 사용자는 장치에서 실시간으로 데이터를 처리할 수 있으며, 다른 물리적 위치와 통신하지 않고 데이터를 수집하여 시간을 절약할 수 있습니다.
엣지 AI의 장점은 다음과 같습니다.
- 전력 사용량 절감: 클라우드 데이터 센터에 비해 훨씬 낮은 전력 요구량으로 엣지 AI를 실행하고 로컬 수준에서 데이터를 처리하여 에너지 비용 절감
- 대역폭 감소: 더 많은 데이터를 클라우드로 전송하는 대신 로컬에서 처리, 분석, 저장하여 전송해야 하는 데이터의 양을 줄이고 비용을 절감합니다.
- 프라이버시: 엣지 AI의 엣지 기기에서 처리되는 데이터로 인해 민감한 데이터가 유출될 위험을 낮춥니다.
- 보안: 엣지 네트워크에서 데이터를 처리하고 저장하거나, 중복되고 불필요한 데이터를 필터링하여 중요한 데이터 전송의 우선순위 지정
- 확장성: OEM(Original Equipment Manufacturer) 장비의 클라우드 기반 플랫폼과 네이티브 엣지 기능으로 시스템을 손쉽게 확장할 수 있습니다 .
- 대기 시간 단축: 클라우드 플랫폼에서 데이터를 처리하고 로컬에서 분석하는 시간을 단축해 다른 태스크를 위한 여유 시간 확보
엣지 AI의 활용 사례는 무엇인가요?
엣지 AI의 이점은 다양한 산업 전반에서 활용 사례를 허용합니다.
의료 분야의 엣지 AI
스마트워치 및 피트니스 트래커와 같은 웨어러블 기기 는 엣지 AI를 사용하여 바이탈 사인(심박수, 산소 수치)을 실시간으로 모니터링하여 클라우드 처리에 의존하지 않고도 사용자에게 부정맥이나 높은 스트레스 수준과 같은 불규칙성을 경고할 수 있습니다. AI 지원 진단 툴 은 병원 또는 진료소 네트워크의 "엣지에서 X-레이, 자기공명영상(MRI) 및 기타 의료 스캔을 분석하여 의료 영상을 지원하여 즉각적인 결과를 제공하고 중앙 집중식으로 데이터를 전송할 필요성을 줄여줍니다. 서버. 엣지 AI는 집에서 원격으로 환자를 모니터링 하고, 의료 기기의 데이터를 분석하고, 실시간으로 의료 기관에 알립니다.
제조 분야에서 엣지 AI 사용
제조 공장에서 엣지 AI는 예측 유지 관리를 수행하고, 실시간으로 장비를 모니터링하여 성능 이상 여부를 모니터링하여 기계적 장애를 예측할 수 있습니다. AI가 장착된 카메라와 센서는 제품의 결함이 있는지 생산 라인을 검사하여 품질 관리 를 강화할 수 있습니다. 시각적 또는 감각적 데이터를 원격 중앙 서버가 아닌 로컬에서 처리하면 즉각적인 수정이 가능하므로 낭비를 최소화할 수 있습니다. 공장의 엣지 AI 기반 로봇 공학 및 자동화 는 센서 입력의 실시간 데이터를 사용하여 환경 변화 또는 제품 변동에 맞게 분류, 패키징 또는 조립할 수 있습니다.
스마트 홈에서 작동하는 엣지 AI
우리는 일상 생활에서 음성 비서 를 사용하여 조명, 온도 조절 장치, 음악을 제어하는 데 익숙해졌습니다. 이러한 기기는 엣지 AI를 사용하여 로컬에서 명령을 처리하므로 대기 시간이 줄어듭니다. 중앙 서버에 전송하지 않고 로컬에서 명령을 처리하면 개인 정보 보호도 강화됩니다.스마트 초인종 및 가정용 카메라와 통합된 보안 시스템 은 엣지 AI를 사용하여 동작을 감지하고, 얼굴을 인식하고, 집주인에게 비정상적인 활동을 경고합니다. 로컬에서 처리하면 지속적인 동영상 스트림을 클라우드로 전송할 필요가 없어 개인 정보 보호와 효율성이 모두 향상됩니다. 온도 조절 장치와 같은 기타 스마트 홈 기기는 에너지 관리에 엣지 AI를 사용합니다. 사용자 행동과 로컬 데이터를 학습하여 난방/냉방 일정을 최적화하고 에너지 소비를 줄입니다.
엣지 AI의 소매 사용
소매업의 “스마트 선반”은 재고 관리를 위해 엣지 AI를 사용합니다. 카메라와 기타 센서는 품목의 재고가 없거나 잘못 배치된 경우 이를 감지하여 직원에게 알립니다. 많은 유통업체는 매장 내 센서와 카메라에서 직접 데이터를 처리하여 고객이 선택하거나 반품하는 제품을 엣지 AI 시스템이 실시간으로 추적하는 계산대 없는 매장 을 실험하고 있습니다.
차량과 교통을 지원하는 엣지 AI
자율 주행 차량 자체가 엣지 AI 기기로서, 카메라, LIDAR, 레이더와 같은 센서의 실시간 데이터를 사용하여 클라우드 연결에 의존하지 않고 도로를 탐색하고, 장애물을 감지하고, 순식간에 의사 결정을 내립니다. 스마트 신호등과 카메라는 교통 패턴을 실시간으로 분석하여 교통 관리 에 엣지 AI를 사용하여 교차로의 정체를 줄이고 안전을 개선하는 데 도움이 될 수 있습니다. 또한 엣지 AI는 차량 성능, 운전자 행동을 모니터링하고 배송 경로를 최적화하여 [ 물류 회사의 [ 차량 관리를 최적화합니다.
Red Hat을 선택해야 하는 이유
Red Hat® AI는 고객이 이미 신뢰하는 솔루션을 토대로 구축된 Red Hat의 AI 제품 포트폴리오입니다. 이 기반을 통해 Red Hat 제품의 안정성, 유연성, 확장성이 유지됩니다.
Red Hat AI가 조직에 제공하는 이점은 다음과 같습니다.
- AI를 신속하게 도입하고 활용하여 빠르게 혁신
- AI 솔루션 제공의 복잡성 해소
- 어디서나 배포.
유연하게 확장하는 방법
Red Hat AI는 어디서나 배포할 수 있는 유연성을 제공하는 플랫폼에 대한 액세스를 포함합니다.
Red Hat OpenShift® AI는 예측 및 생성 AI 모델의 라이프사이클을 모두 관리할 수 있는 통합 MLOps 플랫폼입니다. 이 단일 플랫폼에서 하이브리드 클라우드 환경 전반에서 AI 애플리케이션을 확장할 수 있습니다.
또한 중요 워크로드와 함께 AI 애플리케이션을 빌드하고 배포할 때 Red Hat 컨설턴트가 고유의 엔터프라이즈 활용 사례에 대해 핸즈온 지원을 제공할 수 있습니다.
레드햇 공식 블로그
레드햇 공식 블로그에서 고객, 파트너, 커뮤니티 에코시스템 등 현재 화제가 되는 최신 정보를 살펴 보세요.
