엣지 AI란?

URL 복사

엣지 인공지능, 다시 말해 엣지에서의 AI는 AI를 엣지 컴퓨팅과 결합해 사용하여 물리적 위치나 그 근처에서 데이터를 수집할 수 있도록 하는 것입니다. 예를 들어, 이미지 인식 알고리즘 태스크는 데이터 소스에 가까울수록 더 잘 실행됩니다.

엣지 AI를 사용하면 거의 즉시 대응이 가능합니다.엣지 AI를 사용하면 AI 알고리즘이 장치와 더 가까운 위치에서 데이터를 처리할 수 있기 때문에 인터넷 연결 여부에 관계없이 데이터가 실시간 피드백을 제공하며 밀리초 내에 처리됩니다. 즉 민감한 데이터가 엣지를 벗어나지 않는다는 의미이므로 더욱 안전할 수 있습니다.

Red Hat의 엣지 컴퓨팅 솔루션에 대해 알아보기

엣지 AI는 기존 AI처럼 클라우드 시스템의 백엔드에서 AI 모델을 실행하는 대신 네트워크 엣지에서 운영되는 연결된 기기에서 실행합니다. 이는 엣지에 인텔리전스 계층을 추가하는데, 엣지 장치 내에는 통합된 머신 러닝(Machine Learning, ML) 모델이 있기 때문에 엣지 장치가 메트릭과 분석을 수집할 뿐만 아니라 이에 따라 조치할 수 있습니다.

인공지능의 목표는 모두 같습니다. 바로 컴퓨터가 데이터를 수집하고 해당 데이터를 처리한 다음 인간의 지능과 유사한 결과를 생성하도록 하는 것입니다. 하지만 엣지 AI의 차이점은 사용 중인 장치 내부에서, 가까운 위치에서, 혹은 로컬로 작업을 수행하고 의사 결정을 내린다는 것입니다. 

Red Hat AI에 관해 자세히 알아보기

Red Hat 리소스

엣지 컴퓨팅과 인공지능을 결합하면 엄청난 장점이 있습니다. 엣지 AI로 고성능 컴퓨팅 기능을 센서와 IoT 장치가 위치한 엣지에 적용할 수 있습니다. 시스템 간의 연결성과 통합이 필수가 아니므로 사용자는 장치에서 실시간으로 데이터를 처리할 수 있으며, 다른 물리적 위치와 통신하지 않고 데이터를 수집하여 시간을 절약할 수 있습니다.

엣지 AI의 장점은 다음과 같습니다.

  • 전력 사용량 절감: 클라우드 데이터 센터에 비해 훨씬 낮은 전력 요구량으로 엣지 AI를 실행하고 로컬 수준에서 데이터를 처리하여 에너지 비용 절감
  • 대역폭 감소: 데이터를 클라우드로 전송하는 양을 줄이고 대신 로컬에서 처리, 분석, 저장하는 비율을 늘려 비용 절감
  • 개인정보 보호: 엣지 AI의 엣지 장치에서 데이터를 처리하여 민감한 데이터의 유출 위험 감소
  • 보안: 엣지 네트워크에서 데이터를 처리하고 저장하거나, 중복되고 불필요한 데이터를 필터링하여 중요한 데이터 전송의 우선순위 지정
  • 확장성: 클라우드 기반 플랫폼과 OEM(original equipment manufacturer) 장비의 기본 엣지 기능을 통해 시스템을 손쉽게 확장
  • 대기 시간 단축: 클라우드 플랫폼에서 데이터를 처리하고 로컬에서 분석하는 시간을 단축해 다른 태스크를 위한 여유 시간 확보

엣지 AI의 단계에 대해 자세히 알아보기

Red Hat은 우수한 오픈소스 커뮤니티와 함께 컨테이너쿠버네티스 기술을 위해 많은 노력을 들이고 있습니다. Red Hat® OpenShift®는 검증을 통해 신뢰성을 확보한 서비스를 결합하여 애플리케이션 개발, 현대화, 배포, 실행, 관리에 수반되는 마찰을 줄입니다. 

Red Hat OpenShift에는 데이터센터, 하이브리드 클라우드, 엣지 전반에서 일관된 방식으로 머신 러닝 운영(MLOps)을 지원하는 핵심 기능이 포함되어 있습니다. Red Hat OpenShift를 기반으로 하는 AI/ML을 사용하면 AI/ML 워크플로우와 AI 기반 지능형 애플리케이션 제공을 가속화할 수 있습니다.

Red Hat OpenShift AI는 AI/ML 실험과 모델의 전체 라이프사이클에 걸쳐 툴을 제공하는 AI 중심 포트폴리오입니다. 이는 IT 운영 리더를 위한 오픈소스 기술을 바탕으로 한 일관되고 확장 가능한 기반으로서, 데이터 사이언티스트와 개발자를 위해 전문화된 파트너 에코시스템을 제공하여 AI 분야에서 혁신을 이끌어냅니다.

Red Hat OpenShift AI에 대해 자세히 알아보기

허브

레드햇 공식 블로그

레드햇 공식 블로그에서 고객, 파트너, 커뮤니티 에코시스템 등 현재 화제가 되는 최신 정보를 살펴 보세요.

모든 Red Hat 제품 체험판

무료 제품 체험판을 통해 핸즈온 경험을 얻고, 자격증 시험에 대비하거나 해당 제품이 조직에 적합한지 평가할 수 있습니다.

추가 자료

Granite 모델이란?

Granite는 IBM이 엔터프라이즈 애플리케이션용으로 만든 LLM 시리즈입니다. Granite 파운데이션 모델은 언어 및 코드와 관련된 생성 AI 활용 사례를 지원할 수 있습니다.

RAG과 미세 조정(fine-tuning) 비교

RAG와 미세 조정(fine-tuning)은 모두 LLM을 향상하는 것을 목표로 하지만 서로 다른 방법을 사용합니다. RAG에서는 모델을 수정하지 않는 반면, 미세 조정(fine-tuning)에서는 매개 변수를 조정해야 합니다.

Red Hat과 함께 통신 산업의 AI 이해

적합한 IT 솔루션이 통신사가 AI를 효율적이고 경제적으로 사용하여 일반적인 과제를 극복하는 데 어떻게 도움이 되는지 알아보세요.

AI/ML 리소스

관련 기사