Red Hat, 통신 서비스 제공업체를 위한 AI 지원 강화

올해 초 Chris Wright는 2024년 통신 서비스 제공업체의 미래에 대해 살펴보았습니다. 이러한 이니셔티브를 염두에 두고 Red Hat은 통신사가 하이브리드 환경의 네트워크, 보안, 인프라, 애플리케이션 전반에서 전체적인 비즈니스 및 운영 효율성을 개선한다는 최종 목표를 가지고 지능형 자동화 및 AI 기술을 수용하는 데 주력할 것임을 알게 되었습니다. 이후 Red Hat은 Red Hat Summit 2024에서 RHEL(Red Hat Enterprise Linux) AI 도입, Red Hat OpenShift AI 개선 사항 등을 포함하여 통신사의 운영 개선, 비용 절감, 고객 서비스 강화, 혁신 추진에 도움이 되는 강력한 AI 플랫폼을 제공할 흥미로운 프로젝트를 다수 공개했습니다.

오늘은 AI가 주도하는 이러한 발표 중 몇 가지를 소개하며 사기 감지, 데이터 관리 강화, 자율적인 네트워크 및 리소스 최적화, 네트워크 트래픽 관리, 에너지 관리, 챗봇, 개인화된 고객 지원, 무선 액세스 네트워크(RAN)와 코어의 AI 모델 등을 통해 통신사가 경쟁력을 유지하면서 동시에 현대적인 디지털 인프라의 증가하는 요구 사항을 충족하는 방법을 중점적으로 설명하고자 합니다.

Red Hat Enterprise Linux AI 소개

올해 Red Hat은 사용자가 생성형 AI 모델을 더욱 원활하게 개발, 테스트, 배포할 수 있는 기반 모델 플랫폼인 RHEL AI를 발표했습니다. RHEL AI는  InstructLab 프로젝트를 통해 IBM Research의 오픈소스 라이센스 Granite 대규모 언어 모델(LLM) 제품군, LAB(Large-scale Alignment for ChatBots) 방법론을 기반으로 하는 InstructLab 모델 조정 툴, 모델 개발에 대한 커뮤니티 기반 접근 방식을 결합했습니다. 전체 솔루션은 하이브리드 클라우드 전반의 개별 서버 배포를 위해 부팅 가능한 최적화된 RHEL 이미지로 패키징되며, 분산된 클러스터 환경 전반에서 모델을 규모에 맞게 구축하고, 학습시키고, 조정(tuning) 및 서빙(serving)하기 위한 하이브리드 머신 러닝 운영(MLOps) 플랫폼인 Red Hat OpenShift AI의 일부로 포함됩니다.

RHEL AI는 AI 모델을 개발 및 실험하고 미세 조정하는 데 방해가 되는 장애 요소를 줄이므로 통신사는 기술이나 하드웨어에 대한 상당한 초기 투자 없이도 조직 내에서 AI 활용에 대한 계획을 훨씬 쉽게 시작할 수 있습니다. 또한 이 오퍼링은 데이터 사이언티스트뿐만 아니라 다양한 분야 및 도메인 전문가가 LLM의 학습, 튜닝, 조정에 기여할 수 있도록 지원함으로써 전반적인 통신사 고객 경험을 개선하는 데 도움이 될 수 있습니다. 즉, 데이터 사이언티스트 워크플로우를 거치지 않고도 이러한 태스크를 직접 수행하는 직원의 의견을 바탕으로 챗봇, 코드 어시스턴트, 소비자 서비스 등을 구축할 수 있습니다. 이를 통해 통신사는 AI를 빠르고 효율적으로 실험할 수 있는 대상이라고 새롭게 바라보는 동시에 통신사 고유의 지식과 기술에서 파생된 AI 기능을 구축할 수 있는 경로를 마련하게 됩니다.

Red Hat OpenShift AI로 통신사 운영 혁신

Red Hat Summit에서 Red Hat은 통신사가 하이브리드 클라우드 전반에서 AI 지원 애플리케이션을 규모에 맞게 만들고 제공할 수 있는 Red Hat OpenShift 기반의 오픈 하이브리드 AI 및 머신 러닝(ML) 플랫폼인  Red Hat OpenShift AI의 새 기능들을 발표했습니다. 다양한 기능들이 업데이트되었으며, 그중 일부는 다음과 같습니다.

• 특정 활용 사례에 적용 가능한 경우 단일 노드 Red Hat OpenShift를 사용하여 엣지에서 원격 위치까지 모델 서빙(기술 프리뷰)
• 여러 모델 서버를 사용하는 기능으로 모델 서빙을 강화해 예측 및 생성 AI를 모두 지원
• 모델 개발 및 분산 모델 학습 개선
• 성능 및 운영 메트릭 등에 대한 모델링 모니터링 시각화

이러한 모든 개선 사항을 통해 더 빠른 혁신, 생산성 향상, AI를 통신사의 일상 업무에 적용할 수 있는 역량을 확보할 수 있습니다. 하지만 이를 달성하려면 어떻게 해야 할까요?

일반적으로 모델 학습 및 서빙을 엣지로 가져오는 것은 설정의 복잡성으로 인해 비용이 많이 들 수 있습니다. 그러나 코어에서 엣지까지 Red Hat OpenShift AI와 같은 공통 플랫폼을 구축하면 자동화를 강화해 이 작업의 효율성을 높여 운영 비용을 줄일 수 있습니다. 지능형 자동화를 통해 통신사는 네트워크 운영을 간소화하고 보안 조치를 개선하며 리소스 할당을 최적화할 수 있습니다. 이는 통신사가 레거시 시스템 현대화와 5G 네트워크 확장으로 인한 재정적 압박에 직면하고 있기 때문에 특히 중요합니다. 엣지에 AI를 적용함으로써 통신사는 더 빠른 데이터 처리와 실시간 의사 결정의 이점을 누릴 수 있으며, 이를 통해 AI 지원 애플리케이션 및 서비스의 성능을 크게 향상할 수 있습니다. 이러한 접근 방식은 증가하는 머신 생성 데이터를 지원하고 연결성 및 분석 기능을 개선합니다​.  트래픽 모니터링, 부하 관리, 인프라 조정, 네트워크 라이프사이클 관리 또는 전력 관리와 같은 비즈니스 고객 또는 통신사 활용 사례에 대한 디지털 컨시어지 서비스를 생각해 보세요.

RAN의 경우 통신사는 RAN에서 AI 모델을 활용하여 단순한 시간 사전 설정에 제한되지 않고 주파수, 섹터, 셀 및 기지국을 더욱 신속하게 제어할 수 있습니다. AI 모델은 채널 추정 및 SON 작업에 AI 기술을 적용할 수 있습니다.

또한 Red Hat OpenShift AI는 AI 및 ML 기능을 표준 DevOps 모델에 통합하여 MLOps를 제공하고 AI 모델의 전체 라이프사이클을 지원합니다. 여기에는 AI 모델의 구축, 학습, 서빙, 모니터링이 포함되며, 이때 정확성을 위해 미세 조정에 중점을 두는데 이는 통신사에 매우 중요합니다.

선도적인 융합형 통신 및 기술 서비스 제공업체인 투르크셀(Turkcell)은 고객 경험을 혁신하고 운영 효율성을 높이며 더욱 다양한 소비자 및 비즈니스 혁신을 더 빠르게 출시하기 위해 Red Hat OpenShift에 AI 서비스 아키텍처 및 애플리케이션 허브를 구축했습니다.

Red Hat은 또한 파트너들과 협력하여 파트너의 선도적인 AI 기술을 Red Hat OpenShift AI와 더욱 긴밀하게 통합하고 있습니다.  AMD, Intel, NVIDIA 및 Run.ai와 함께 발표한 내용을 살펴보겠습니다.

AMD와의 긴밀한 통합은 통신사가 최신 GPU 세트 사용 등 Red Hat OpenShift를 통해 플랫폼을 활성화하는 데 도움이 됩니다. 또한 Red Hat OpenShift AI를 Intel의 AI 하드웨어와 더욱 긴밀히 통합함으로써 통신사는 데이터센터에서 클라우드, 엣지에 이르는 상호운용성을 실현하고 AI 워크로드 이식성을 높여 필요한 곳이면 어디든 AI 워크로드를 구축, 실행, 배포할 수 있습니다.

그뿐만 아니라 Red Hat은 NVIDIA와의 협업을 통해 사용자가 Red Hat OpenShift AI로 학습시킨 AI 모델과 NVIDIA NIM 마이크로서비스를 결합하여 단일 MLOps 플랫폼에서 생성 AI 기반 애플리케이션을 개발할 수 있도록 지원한다고 발표했습니다. 따라서 서비스 제공업체는 Red Hat OpenShift를 고객 서비스 채팅 도우미, 컴플라이언스 점검, 맬웨어 감지 등과 같은 코파일럿을 구축하기 위한 개발자 플랫폼으로 사용할 수 있습니다.

그리고 Red Hat은 Run:ai와 협력하여 Red Hat OpenShift AI에 리소스 할당 AI 인프라 관리 및 GPU 오케스트레이션 기능을 제공하고 있습니다. 이러한 협업을 통해 AI 운영을 간소화하고 기본 인프라를 최적화함으로써 서비스 제공업체는 5G 코어 및 RAN 애플리케이션과 같은 워크로드를 기반으로 자체적으로 적응 및 조정할 수 있는 지능형 인프라를 구축하기 위한 리소스를 최적화할 수 있습니다.

미래의 지능형 네트워크를 위한 자동화 강화

Red Hat Lightspeed는 여러 플랫폼으로 확장함으로써 Red Hat OpenShift 및 Red Hat Enterprise Linux를 위한 엔터프라이즈 레디 AI를 유도하고 있습니다. 이는 초보 사용자가 Red Hat의 엔터프라이즈급 Linux 및 클라우드 네이티브 애플리케이션 플랫폼을 더욱 쉽게 사용할 수 있도록 지능형 자연어 처리 기능을 제공하고 동시에 숙련된 전문가의 역량을 강화하기 위한 것입니다.

따라서 애플리케이션을 관리하고 개발하기 위해 Red Hat OpenShift를 사용하거나 RHEL을 운영 체제로 사용하는 많은 통신사는 이제 생성 AI의 도움을 받아 소프트웨어를 더 빠르게 개발하고 제공할 수 있습니다. 또한 디지털 지원을 통해 IT 및 네트워크 운영의 효율성을 높일 수 있으므로 핵심 또는 새로운 비즈니스 혁신에 더 많은 시간을 투자할 수 있습니다. 통신사는 미래형 통신사 네트워크의 구축, 배포, 유지 관리에 이러한 자동화 툴을 활용하여 팀의 규모와 효율성을 전례 없는 수준으로 끌어올릴 수 있습니다.

혁신을 저해하지 않는 규제 준수

Red Hat은 Red Hat Ansible Automation Platform의 향후 버전에 적용될 새로운 기능인 자동화된 코드형 정책을 발표했습니다. 이 기능은 다양한 AI 애플리케이션이 갈수록 많아지는 하이브리드 클라우드 자산 전반에서 정책과 컴플라이언스를 시행하는 데 도움이 될 것입니다. 자동화 성숙도의 또 다른 단계인 코드형 정책을 사용하면 변화하는 내부 또는 외부 요구 사항을 준수하고 AI 워크로드 스케일링을 지원하여 인프라 확산에 더 잘 대비할 수 있습니다.

이를 통해 통신사는 다음과 같은 이점을 누릴 수 있습니다.

• Ansible Automation Platform과 정책 엔진 및 기능의 긴밀한 통합을 통해 전반적인 인프라 보안 태세 개선
• 인프라에서 번역 및 이행할 수 있도록 정책을 일반 텍스트로 정의할 수 있는 기능(예: 네트워크 전반에 있는 모든 내 스위치에 대해 컴플라이언스 점검을 수행해 줘)
• 규제 요구 사항 및 컴플라이언스를 수월하게 준수

Red Hat은 통신사가 예측 및 생성 AI 영역 모두에서 모델을 개발하고, 학습시키고, 배포할 수 있는 네이티브 AI 기능을 제공하기 위해 제품 포트폴리오를 크게 개선했습니다. Red Hat은 고객이 인프라와 서비스에 AI를 쉽게 사용할 수 있도록 이 오퍼링을 지속적으로 개선해 나갈 것입니다.