AIOps 설명

AIOps(IT 운영을 위한 AI)는 머신 러닝과 기타 고급 AI 기술로 IT 운영을 자동화하는 방식으로, 실시간으로 관찰, 학습, 행동할 수 있는 지능형 시스템을 활용합니다. 이를 통해 IT 팀은 복잡성을 관리하고 수동 작업을 줄이며 인시던트 대응을 가속화하여 의사 결정을 더 빠르고 효과적으로 내릴 수 있습니다. 

복잡한 IT 환경에서는 사용 가능한 운영 데이터의 양이 방대하므로 문제를 빠르게 식별하고 해결하기가 어려울 수 있습니다. 사람의 능력으로는 이러한 데이터를 현대적인 IT 운영의 수요를 충족할 만큼 빠르게 처리하고 체계화할 수 없습니다. 그리고 중복되거나 사소한 경고를 자주 생성하는 기존의 모니터링 툴은 경고 피로를 유발해 가장 중요한 경고가 누락되는 결과를 낳을 수 있습니다. 

그로 인한 인시던트 대응의 지연이 많은 시간이 소요되는 수동 트러블슈팅과 결합되면 평균 문제 해결 시간(MTTR)과 다운타임 리스크의 증가를 초래할 수 있습니다. 

AIOps는 이러한 문제를 완화하고 IT 팀이 인시던트에 더 빠르게 대응하는 데 도움이 될 수 있습니다. 머신 러닝 알고리즘 및 기술을 통합하므로 시스템이 대규모 운영 데이터로부터 학습하는 데 도움이 됩니다. 그리고 IT 자동화를 사용하여 이벤트에 실시간으로 대응하므로 가시성을 향상하고 사전 예방적 IT 관리를 강화하며 운영 비용을 절감하는 효과가 있습니다.

e-Book 보기

하이브리드 클라우드의 AI 모델을 위한 개방형 플랫폼

AIOps 플랫폼 또는 접근 방식은 방대한 양의 운영 데이터를 수집하고, 머신 러닝 알고리즘을 적용해 패턴과 문제를 식별하고, 문제 해결을 자동화하고, 과거 인시던트로부터 학습합니다. 즉, AIOps는 IT 운영을 반응형 트러블슈팅에서 선제적인 지능형 관리로 혁신합니다. 

데이터 수집, 처리 및 정제

AIOps 플랫폼은 네트워크, 애플리케이션, 데이터베이스, 기타 다양한 소스에서 방대한 양의 정보를 수집, 체계화, 컨텍스트화합니다. 이러한 데이터에는 다음이 포함될 수 있습니다.

• 실시간 및 과거 이벤트 데이터
• 성능 메트릭 및 모니터링
• 시스템 및 애플리케이션 로그
• 인프라 및 구성 데이터
• 보안 및 인시던트 데이터
• 비정형 또는 스트리밍 데이터

플랫폼은 데이터를 수집한 뒤 단일 위치에서 집계합니다. 이 위치에서 데이터는 체계화, 색인화, 정제될 수 있습니다. 그러나 대부분의 현대화된 환경에서는 데이터가 중앙화되지 않고 공존하는 여러 관측성 플랫폼에 분산되므로 집계는 중요한 첫 단계입니다. 데이터 '정제'에는 데이터 세트와 분석 결과의 신뢰성을 보장하기 위해 수집된 데이터의 오류를 식별하고 수정하는 작업이 수반됩니다. 따라서 중복 데이터를 제거하거나, 레이블이 잘못 지정된 데이터를 수정하거나, 데이터가 불완전한 부분을 채울 수도 있습니다.

AI/ML 알고리즘 적용

AIOps는 머신 러닝을 사용해 패턴을 찾고 자연어 처리를 활용해 데이터 소스의 텍스트를 해석하며 생성형 AI를 통해 인사이트를 종합 및 요약합니다. 로그, 티켓 같은 여러 소스의 비정형 텍스트를 해석하면 과거 데이터의 이상을 감지하고 근본 원인 분석(RCA)을 수행하기 위한 컨텍스트가 제공됩니다. 이 프로세스에서 생성형 AI는 명확한 인시던트 요약을 생성하고 구체적인 문제 수정을 제안함으로써 문제 해결을 가속화할 수 있습니다. 또한 AIOps는 과거 데이터, 통계적 모델링, 데이터 마이닝 기술, 머신 러닝 등을 사용하는 예측 분석을 활용하여 문제를 사전 예방적으로 예측합니다. 

자동화된 대응 및 문제 해결

AIOps 플랫폼이 인시던트와 패턴을 식별한 후에는 IT 팀이 자동화와 오케스트레이션을 통합하여 문제를 신속하게 해결할 수 있습니다. AIOps는 사전 정의된 정책에 따라 서비스 재시작이나 인시던트 티켓 생성과 같은 자동화된 자가 치유(Self-healing) 워크플로우를 트리거할 수 있습니다. 이러한 자동화로 일반적인 문제에 대한 대응이 확장 가능하고 반복 가능해지는 동시에 다운타임과 수동 개입이 감소합니다. 또한 시스템이 계속해서 학습하고 향후 대응을 개선함에 따라 복잡한 문제는 에스컬레이션하여 사람이 검토할 수 있는 여지를 남겨 둡니다. 

AIOps 접근 방식이 성공하려면 전체 IT 환경에서 단일 정보 소스를 생성할 수 있는 플랫폼을 선택해야 합니다. 많은 경우, 개별 관측성 툴은 문제가 시작되는 기반 인프라에 대한 액세스 권한이 없을 수 있습니다. 따라서 다양한 소스에서 데이터의 수집, 정규화, 상호 연관성 수립이 가능한 플랫폼을 선택해 팀이 유용한 인사이트를 확보하도록 돕고 더욱 효율적인 문제 해결 워크플로우를 지원하는 것이 매우 중요합니다.

에이전틱(Agentic) AI는 시스템을 자동으로 모니터링하고 실시간으로 패치함으로써 AIOps 프로세스를 지원합니다. 이러한 작업을 수행하려면 에이전트가 API를 통해 서버 로그 및 모니터링 툴에서 대량의 정보에 액세스할 수 있어야 합니다. 모델 컨텍스트 프로토콜(MCP)은 외부 데이터가 처리되고 동작 또는 출력 생성에 사용되는 방식을 에이전트가 결정할 수 있도록 돕는 툴입니다. 

AIOps는 IT 운영에 있어 상당한 장점을 제공하지만 여러 과제를 제시하기도 합니다. 조직은 데이터 관리, 전문 지식, 통합 등과 관련된 장애물에 직면합니다. 이는 AIOps의 결과와 전반적인 성공을 확인하는 데 소요되는 시간에 영향을 미칠 수 있습니다.

과제

• 데이터 관리. 품질과 일관성을 지원하기 위해 데이터를 수집, 체계화, 정제하는 작업은 복잡합니다. AIOps 결과는 데이터 소스의 품질과 직접적으로 관련되므로 의미 있는 데이터를 중요하지 않은 데이터에서 분리하는 것이 어려울 수 있습니다.
• 전문 지식 및 인프라 요구 사항. 조직이 자체 AIOps 솔루션을 개발하려면 숙련된 사내 데이터 사이언티스트가 필요하지만 이것 역시 상당한 장애물이 될 수 있습니다. AIOps 설계와 관리에 필요한 전문 인력을 찾으려면 시간이 많이 소요되는 경우가 많고 기존 직원을 훈련하는 데도 많은 비용이 들 수 있습니다. 플랫폼과 기능이 표준화되지 않을 경우 AIOps를 인프라 변화에 맞춰 학습시키기가 어렵습니다. 이러한 시스템의 설계, 구축, 관리도 복잡하고 많은 시간이 소요될 수 있기 때문입니다.
• 결과 지연. AIOps 시스템은 설계, 구현, 배포 및 관리가 어려워 ROI(투자 수익률)를 내기까지 시간이 걸릴 수 있습니다.
• 기존 시스템과의 통합. AIOps 솔루션의 성공을 위해서는 현재 인프라 및 툴과의 연동이 가능해야 합니다. 이러한 통합은 하이브리드나 멀티클라우드 환경에서 특히 까다로울 수 있습니다.
• 신뢰 및 이해관계자 의견 조정. 조직에는 AI가 윤리적으로 사용되고 방법이 투명하며 결론이 검증 가능하다는 확신이 필요합니다. 또한 명확한 운영 목표를 정의하려면 많은 이해관계자의 집단적 동의가 필요합니다. 하지만 이러한 동의를 얻기까지가 힘들 수 있습니다.

데이터 관리에서 통합에 이르는 이 같은 문제점들은 까다로워 보일 수 있습니다. 그러나 성숙한 AIOps 플랫폼은 바로 이러한 문제점들을 해결하기 위해 개발되었습니다. 통합 솔루션을 사용함으로써 조직은 일반적인 구현 장애물을 해결하고 주요 장점을 실현할 수 있습니다. 

특히 더 빠른 확장을 원하는 기업들 사이에서 점점 인기를 얻고 있는 한 가지 솔루션은 LLM이 GPU를 더 효율적으로 사용하는 데 도움이 되는 추론 서버인vLLM입니다. vLLM은 LLM 메모리 스토리지를 더 효율적으로 활용하기 위해 지속적 배치, PagedAttention 기술, 양자화와 같은 기술을 사용합니다.

잘 알려진 세 조직이 vLLM을 사용하여더 효율적으로 확장하는 방법을 알아보세요.

장점

• 해결 시간 단축 및 다운타임 감소. AIOps는 새로운 문제를 감지하고 이에 대응하여 다운타임을 줄이고 MTTR을 단축합니다. 이것이 가능한 이유는 근본 문제를 신속하게 식별하고 솔루션을 자동화하기 때문입니다. 이러한 사전 예방적 기능이 있기 때문에 최종 사용자에게 영향을 미치거나 많은 비용을 초래하는 서비스 장애가 발생하기 전에 문제를 해결하는 자가 치유 시스템이 가능합니다.
• 생산성 향상. 수동 태스크와 반복되는 태스크를 자동화함으로써 AIOps는 인적 오류를 줄이고 IT 직원의 효율성을 향상합니다. 따라서 팀은 고부가 가치의 전략적 프로젝트에 집중할 시간을 더 확보할 수 있으며, 인프라 및 인적 리소스를 더욱 효율적으로 사용할 수 있습니다.
• 관측성 도구 및 인사이트 강화. AIOps는 다양한 소스로부터 방대한 양의 데이터를 수집한 뒤 데이터 간 상관관계를 분석하여 IT 환경에 대합 통합 뷰를 제공합니다. 또한 머신 러닝을 사용하여 이상을 감지하고 패턴을 분석하며 예측 가능한 분석을 제공해 원시 데이터를 유용한 인사이트로 전환합니다.
• 비용 절감. 서비스 장애를 방지하고 리소스 할당을 최적화하며 IT 직원 효율성을 강화함으로써 AIOps는 운영 비용과 IT 인프라 총소유비용을 낮출 수 있습니다.
• 고객 및 직원 경험 개선. AIOps는 중요 서비스와 애플리케이션의 가동 시간을 유지하는 데 도움이 되므로 고객 경험이 향상됩니다. 또한 가장 중요한 경고만 제시하여 IT 팀의 경고 피로를 줄이므로 사기를 진작하고 의사 결정을 개선합니다. 

IT 자동화를 통해 신뢰할 수 있는 AI 기반 구축

AIOps는 광범위한 IT 운영 과제에 적용할 수 있습니다. AI와 자동화를 통합함으로써 반응형 문제 해결을 선제적인 지능형 IT 관리로 전환할 수 있습니다.

인프라 및 클라우드 관리

AIOps는 가상 머신(VM), 하이브리드 클라우드, 네트워크 엣지에서의 운영 등 복잡한 IT 환경을 관리하는 데 필수적입니다. AIOps는 이벤트 기반 자동화를 활용하여 중앙 처리 장치(CPU) 사용량 급증이나 네트워크 서비스 장애 같은 일반적인 경고에 자동으로 대응합니다. 또한 IT 팀이 리소스를 더 효율적으로 사용하는 데 도움이 되므로 비용을 절감하고 인프라 수동 관리의 부담을 덜어줍니다. 

AIOps는 분산 추론과 같은 다양한 비용 절감 기술을 관리하는 데 사용할 수 있습니다. 분산 추론은 추론 작업을 상호 연결된 여러 기기에 분배하여 AI 모델이 더 효율적으로 워크로드를 처리하도록 하는 것을 말합니다. llm-d와 같은 프레임워크는 규모에 따른 분산 추론을 지원하여 기업 전반에서 생성형 AI 애플리케이션의 속도를 높입니다.

네트워크 및 엣지 최적화

AIOps는 네트워크 성능을 강화하고 IT 팀의 문제 대응 속도를 개선하는 데 중요한 역할을 합니다. 유선, 무선, 소프트웨어 정의 광역 네트워크(SD-WAN), WAN 엣지, 데이터 센터, 보안 도메인 등 네트워크 전반에 자동화 및 AI 인사이트를 제공합니다. 여기에는 기본 네트워크 트러블슈팅 태스크 자동화와 구성 문제 해결이 포함됩니다. 또한 사용자는 이벤트 기반 자동화를 사용하여 네트워크 엣지에서도 애플리케이션 재배포를 트리거할 수 있습니다.

비즈니스에 미치는 영향 평가 및 서비스 상태 모니터링

AIOps를 사용하여 IT 문제가 비즈니스 서비스에 미치는 영향을 제대로 파악할 수 있습니다. AIOps는 방대한 양의 데이터를 수집하고 분석함으로써 사이트 신뢰성 엔지니어(SRE)가 애플리케이션, 하드웨어, 네트워크 인프라의 성능을 모니터링하도록 지원할 수 있습니다. 성능 문제와 그러한 문제가 서비스 가동 시간에 미치는 영향에 대한 가시성 확대를 토대로 사용자는 심각도와 관련성에 따라 문제 해결 작업의 우선순위를 지정할 수 있습니다.

보안 및 컴플라이언스 

AIOps는 이상 감지와 이벤트 상관관계를 통해 데이터 침해와 같은 잠재적 위협을 사전에 식별하는 데 AI를 사용함으로써 보안 상태를 개선할 수 있습니다. 또한 변경 사항을 감지할 뿐만 아니라 리스크와 영향에 대한 컨텍스트를 제공해 자동 수정의 우선순위를 지정하도록 하여 구성 드리프트 문제를 해결할 수 있습니다. 거버넌스 유지를 위해 AI에서 시작된 자동화를 사전 정의된 보안 정책에 따라 검증한 뒤 실행할 수 있습니다. 그러면 AI가 계속해서 규제를 준수하는 데 도움이 되고 결과에 대한 신뢰를 개선할 수 있습니다. 

산업별 애플리케이션

AIOps 솔루션은 금융 서비스, 보건 의료, 통신, 제조 등 다양한 산업에서 고유의 요구 사항을 충족하도록 맞춤화할 수 있습니다. 일부 툴은 IT 운영 전반에 대한 통합 뷰를 제공하는 반면, 분야별 애플리케이션은 전문적인 인사이트를 제공합니다. 이러한 애플리케이션은 산업과 관련성이 높은 데이터 세트를 기반으로 학습한 AI 모델을 사용하여 특정 과제와 활용 사례를 다룹니다.

Red Hat Ansible Automation Platform의 5가지 AIOps 활용 사례

DevOps는 애플리케이션 라이프사이클 전반의 지속적이고 점진적인 개선을 목표로 합니다. 따라서 DevOps의 주요 과제는 다운타임이고, 그렇기 때문에 AIOps의 중요성이 커집니다. AIOps는 개발과 운영 프로세스에 데이터 사이언스를 통합하여 DevOps 문화를 지원합니다.

DevOps와 AIOps의 실제 경계는 상당히 불분명하지만, AIOps는 DevOps 프로세스의 양 끝과 관련이 있습니다.

• 프로세스의 맨 앞에서 AIOps는 방대한 양의 인프라 데이터를 사용하여 기반이 되는 통합 개발 환경(IDE) 문제에 대해 DevOps 엔지니어에게 경고하거나 이러한 문제를 즉시 수정합니다.
• 그리고 프로세스의 맨 끝에서는 프로덕션 단계에서 중복되는 IT 문제를 자동으로 해결하고 동시에 신규 릴리스마다 수반되는 새로운 버그 문제를 해결하도록 학습할 수 있습니다. 

DevOps와 마찬가지로 AIOps는 다양한 툴을 활용하며, 더 빠르고 효율적인 IT 운영을 지원하기 위해 고도로 협업적인 접근 방식을 사용합니다. 통합 AIOps 플랫폼이 고유의 개발 및 프로덕션 환경 전반에서 통합, 분석, 조치를 수행할 수 있는 반면, 사용할 기반 툴은 IT 설정에 따라 달라집니다.

DevOps에 대해 자세히 알아보기

Red Hat® Ansible® Automation Platform은 광범위한 IT 운영에 대해 AI 기능과 툴을 지원할 수 있는 엔드 투 엔드 자동화 솔루션으로, 모델과 인프라 구성 요소의 배포, 구성 및 관리를 자동화하여 AI 인프라 제공을 간소화합니다. 

Event-Driven Ansible을 사용할 경우 관측성 데이터를 자동화된 조치로 전환하여 IT 환경의 변화에 실시간으로 대응할 수 있는 자가 치유 인프라를 구축할 수 있습니다. 그리고 Red Hat OpenShift® AI와 Red Hat Enterprise Linux® AI 같은 Red Hat AI 솔루션과 함께 사용하면 문제 발생 시 이를 식별하고 자동으로 해결하는 데 도움이 됩니다. 

AIOps를 충분히 활용하려면 Ansible Automation Platform의 이벤트 기반 자동화 기능을 Red Hat 파트너들의 AI 기능과 결합하는 것이 중요합니다. Splunk, Dynatrace, Datadog과 같은 관측성 툴을 이상 감지에 사용할 수 있고, 여기에서 비롯된 인사이트를 기반으로 Event-Driven Ansible이 조치를 취할 수 있습니다. 따라서 기존 관측성 툴의 ROI를 극대화하는 동시에 MTTR을 단축하고 반복적인 태스크를 줄일 수 있습니다.

Ansible Automation Platform의 생성형 AI 서비스인 Red Hat Ansible Lightspeed는 자동화 팀이 기술 격차를 해소하고 더 스마트한 방식으로 일하며 운영 문제를 더 빠르게 해결하도록 돕습니다. Ansible Lightspeed 코딩 어시스턴트는 개발자와 운영자가 태스크, Ansible Playbook, Ansible Role 등과 같은 자동화 콘텐츠를 자연어 프롬프트로부터 생성하도록 지원합니다. 그리고 신뢰할 수 있는 Red Hat 데이터 소스로 학습된 Ansible Lightspeed 지능형 어시스턴트는 관리자가 온보딩해 직관적인 채팅 인터페이스를 통해 Ansible Automation Platform에서 직접 플랫폼 관리 문제를 해결하도록 돕습니다.

Ansible Automation Platform을 통해 AI 인텔리전스를 구체적 조치로 전환