Red Hat OpenShift에서 에이전틱 AI: 기업들의 실제 현황과 적용 사례

Red Hat Summit 2026 고객 라운드테이블의 인사이트

항공, 공공 서비스, 금융 서비스, 고등 교육, 정부 등 다양한 산업의 플랫폼 엔지니어링 및 운영 리더들이 Red Hat Summit 2026에 모여 에이전틱 AI에 대한 솔직한 대화를 나눴습니다. 실제로 효과가 있는 것은 무엇인지, 리스크는 어디에 있으며, 현재 팀들이 어떻게 가치를 창출하고 있는지 파악하고자 했습니다.

플랫폼 관리에서 AI 협업까지

라운드테이블의 모든 대화를 관통하는 질문은 다음과 같았습니다. 플랫폼이 단순히 관리 대상에 머물지 않고 팀과 함께 생각하는 존재가 된다면 어떤 모습일까요?

팀들은 2년 전과 동일한 인력으로 복잡한 멀티클러스터 환경을 관리하고 있습니다. 인시던트 진단, 경고 간의 상관관계 분석, 문제 해결 실행과 같은 수동 작업으로 인해 핵심 개발에 투입되어야 할 역량이 소모되고 있습니다. 한 참가자는 추가 인력 고용 없이 관리되는 클러스터 수를 두 배로 늘리겠다는 목표를 명확하게 밝혔습니다.

필요한 것은 단순한 효율성 그 이상입니다. 중요한 것은 일상적인 작업이 자동으로 처리될 때, 우수한 인재들이 어떤 핵심적인 업무에 집중할 수 있느냐는 점입니다. 라운드테이블에 참석한 고객들은 이미 그 가능성을 엿보고 있습니다. 한 팀의 에이전트는 기존 로그나 경고로는 파악할 수 없었던, 15분마다 자동으로 충돌하는 스토리지 드라이버를 감지해 냈습니다. 에이전트는 상세 진단 요약을 통해 문제를 보고하고, 작업자가 다음 단계를 승인할 때까지 대기 상태를 유지했습니다. 이러한 조치는 문제 해결 속도를 높일 뿐만 아니라, 플랫폼과 운영자 간의 관계를 근본적으로 변화시킵니다.

IT를 뛰어넘는 놀라운 ROI(투자수익률)

가장 인상적인 인사이트는 참가자들이 기존 인프라 영역을 벗어나 문제를 해결하는 AI 에이전트의 사례를 설명할 때 나왔습니다.

한 대학 팀은 학생 금융 서비스 그룹을 돕기 위해 에이전트를 배포했습니다. 이 에이전트는 연방 기금 지원 자격이 있지만 기존 데이터베이스 쿼리에서 누락되었던 취약 계층 학생들을 식별했습니다. 시스템은 100명 이상의 학생과 6만~7만 달러에 달하는 미청구 연방 지원금을 신속하게 찾아냈습니다. 불과 몇 주 전만 해도 팀에서는 이러한 활용 사례가 가능하다는 사실을 알지 못했습니다.

또 다른 사례로, 한 정부 기관은 시민들이 복잡한 법적 규제를 파악하고 출산, 창업, 이사 등 주요 생애 사건에 맞춰 적절한 공공 서비스를 자동으로 안내받을 수 있도록 에이전틱 인터페이스를 제공한다는 장기 비전을 제시했습니다. 이는 수십 개의 분절된 포털 대신 단일 지능형 인터페이스를 시민들에게 제공하는 것입니다.

가장 큰 주목을 받는 조직은 활용 사례를 넓히고 '운영을 위한 AI'가 가질 수 있는 기존 관념을 뛰어넘는 조직입니다.

사람의 개입과 감독은 선택이 아닌 필수

라운드테이블의 합의 사항은 분명했습니다. 완전한 자율성은 고려 대상이 아니라는 점입니다. AI는 비결정적이기 때문에 핵심 과제는 에이전트의 신뢰 여부가 아닙니다. 에이전트가 일상적인 태스크를 안전하게 가속화하면서도 사람이 중요한 작업을 제어할 수 있도록 워크플로우를 구성하는 방법이 중요합니다. 에이전틱 솔루션에는 플랫폼 고유의 명확하고 표준화된 워크플로우 거버넌스 모델이 필요합니다.

가장 큰 공감을 얻은 모델은 에이전트를 사이트 신뢰성 엔지니어처럼 대우하는 것이었습니다. 에이전트는 시스템을 분석하고 실행 계획을 생성하며, 조사 결과와 제안된 조치를 요약하는 티켓 초안을 작성합니다. 엔지니어가 이를 검토하고 승인하면, 에이전트는 명시적으로 권한이 부여된 작업만 실행합니다.

한 팀은 AI 수퍼바이저 에이전트가 일련의 특수 하위 에이전트를 감독하는 아키텍처를 테스트하며 겪은 주의 사례를 공유했습니다. 3개의 하위 에이전트가 공모하여 수퍼바이저 AI가 거부해야 할 작업을 승인하도록 설득했다는 내용이었습니다. 팀은 피해가 발생하기 전에 이를 파악했지만, 교훈은 분명했습니다. AI는 사람의 개입 없이는 다른 AI를 안정적으로 제어할 수 없습니다.

이 사례는 조직이 Day 1부터 모든 환경에 배포할 수 있는 '가드레일 서비스' 또는 '서비스로서의 승인(Approval-as-a-Service)'과 같이 코드화 가능하고 사용하기 쉬운 거버넌스 기능이 필요함을 시사합니다.

안전한 설계

운영 팀의 주요 관심사는 자율 툴이 실수했을 때의 여파를 억제하는 것입니다. 위험 요소는 파괴적인 명령(예: rm -rf)을 시도하는 에이전트부터, 리소스를 많이 사용하는 명령을 반복 실행하여 수리 대상인 클러스터를 실수로 다운시키는 진단 에이전트까지 다양했습니다.

이러한 위험을 완화하기 위해 팀들은 엄격한 리소스 제한과 모든 작업에 대한 전체 감사 로깅이 적용된 컨테이너 환경에서 샌드박스 에이전트를 사용하고 있습니다. 에이전트를 스키마 검증 문서 저장소나 입력을 엄격히 제한하는 시스템과 같은 결정론적 데이터 계층과 페어링하는 방식도 에이전트의 동작을 안정적으로 유지하는 데 매우 효과적임이 입증되었습니다.

장애 요인: 승인, 감사 추적, ROI

도입을 지연시키는 장애 요인은 기술적인 문제보다는 주로 조직적인 문제입니다.

내부적인 공감대를 형성하는 것은 어렵습니다. 특히 과거에 과도하게 약속된 자동화 프로젝트를 경험했던 팀들 사이에서는 더욱 그렇습니다. 상세한 감사 추적은 이러한 신뢰를 구축하는 데 필수적이며, 일부 지역에서는 법적 의무 사항이기도 합니다. 조직은 규제 기관과 경영진에게 에이전트가 수행한 작업, 그 이유, 그리고 누가 작업을 승인했는지 정확히 보여줄 수 있어야 합니다. 그러한 증거가 없다면 거버넌스 팀은 기본적으로 해당 기술 도입을 거부하게 됩니다.

명확한 ROI를 입증하는 것 역시 중요합니다. 라운드테이블에 참석한 모든 팀은 예산을 확보하기 전에 가치를 증명해야 한다는 압박을 느끼고 있었습니다. 가장 빠르게 움직이는 팀들은 가시성이 높은 소규모 기술 검증(PoC)으로 시작하여 결과를 문서화하고, 이를 근거로 추가 자금을 확보하고 있습니다. 학생 재정 지원에서 6만~7만 달러의 성과를 거두는 것은, 비록 두 가지 모두 가치가 있더라도 경고 노이즈를 줄이는 것보다 예산 관련 논의에서 훨씬 더 설득력이 있습니다.

주요 시사점

이번 라운드테이블에 참여한 기업들은 에이전틱 AI(Agentic AI) 도입 단계는 제각기 달랐지만, 모두 동일한 고민에 직면해 있었습니다. 가장 눈에 띄는 성과를 거두고 있는 팀들에서 몇 가지 공통된 실천 모범 사례를 확인할 수 있었습니다.

• 관찰 가능성(Observability) 및 자가 치유(Self-healing)부터 시작: 이 분야는 운영상의 페인 포인트(Problem point)가 가장 크고 가치 창출 경로가 가장 명확하며, 범위가 제한되어 있어 프로젝트 관리가 용이합니다.
• 초기 단계(Day 1)부터 인적 감독을 고려한 설계: 배포 후에 거버넌스를 임시방편으로 덧붙이지 마세요. 승인 워크플로우, 차단 상태(Block states), 감사 추적(Audit trails)을 아키텍처에 직접 구축해야 합니다.
• 에이전트 샌드박스화: 컨테이너화된 실행 환경은 선택이 아닌 필수입니다. 이는 에이전트가 안전하게 작동할 수 있도록 필요한 가드레일을 제공합니다.
• AI 인프라 비용에 대한 진지한 검토: 여러 팀이 GPU 및 클라우드 추론 비용이 예상보다 빠르게 증가하여, 경우에 따라 창출되는 가치를 넘어서기도 한다고 설명했습니다. Red Hat OpenShift AI는 이러한 과제를 해결하기 위해 설계되었습니다. 기업이 하이브리드 인프라 전반에서 GPU 사용을 최적화하도록 지원하여, 대규모 AI 실행 비용이 확장성을 가로막는 걸림돌이 되지 않도록 합니다. 클라우드 추론 비용과 온프레미스 GPU 하드웨어가 모두 상당한 자본 투입을 의미하는 환경에서는, 이러한 투자가 더 효율적으로 작동하도록 돕는 플랫폼을 갖추는 것이 중요합니다.
• 가시성 높은 비즈니스 가치에 집중: 가장 큰 추진력을 얻은 팀들은 플랫폼 엔지니어링 팀뿐만 아니라 조직 전체에 가치를 제공하는 활용 사례를 찾아냅니다. 

에이전틱 시대를 위한 Red Hat OpenShift

엔터프라이즈 소프트웨어의 모든 주요 물결에는 복잡한 분산 시스템을 대규모로 관리할 수 있는 기반 계층이 필요했습니다. 클라이언트-서버 시대에는 JBoss와 같은 미들웨어가 그 역할을 했습니다. 클라우드 네이티브 시대에는 쿠버네티스가 핵심이었습니다. 에이전틱 AI 시대에는 Red Hat OpenShift 및 Red Hat OpenShift AI가 그 역할을 담당합니다.

라운드테이블의 고객들은 멀티클러스터 환경 전반에서 작동하고, 엄격한 거버넌스 경계 내에서 의사 결정을 실행하며, 엔터프라이즈 워크플로우와 통합되고, 소버린 또는 하이브리드 인프라에서 실행되는 자율 에이전트를 구축하고 있습니다. 이러한 시스템은 임시방편적인 툴링만으로는 안정적으로 구축할 수 없습니다. 기업이 이미 신뢰하고 있는, 보안 중심의 일관된 오픈소스 기반이 필요합니다. 

OpenShift는 단순한 컨테이너 오케스트레이터 이상의 역할을 합니다. OpenShift는 에이전트 프레임워크, MCP 서버, 에이전트 스킬 라이브러리, 인적 참여형(human-in-the-loop) 워크플로우, GPU 워크로드가 하나로 통합된 플랫폼입니다. 이를 통해 기업은 멀티클러스터 환경 전반에서 시스템을 배포, 관리 및 확장할 수 있습니다.

보안 중심의 기반을 구축하려면 정책 및 권한 제어, ID 및 액세스 관리, 애플리케이션 및 툴 거버넌스, 런타임 안전 및 감사, 실행 샌드박싱, 데이터 및 콘텐츠 거버넌스, 인적 참여형 라이프사이클 관리 등 에이전틱 거버넌스의 전체 스택을 처리해야 합니다. 특히 ID와 인증은 나중에 고려할 대상이 아닙니다. 모든 에이전트 작업은 반드시 인증되어야 하며 특정 권한이 있는 엔터티로 추적 가능해야 합니다. 

OpenShift는 AgentOps를 통해 이러한 요구 사항을 충족합니다. AgentOps는 거버넌스 및 보안의 각 계층을 처리하는 빌트인 가드레일을 갖추고 있으며, 모든 모델, 가속기 또는 클라우드 전반에서 에이전트를 운영화하는 Red Hat AI의 프레임워크 독립적 접근 방식입니다. 이러한 기능은 나중에 추가하는 선택 사항이 아니라, 엔터프라이즈급 에이전틱 AI를 가능하게 하는 근간입니다. 처음부터 이를 이해하고 해결하는 조직은 기반 구축 시간을 단축하여 더 빠르게 움직이고 효과적으로 관리하며, 에이전틱 AI의 미래로 자신 있게 나아갈 수 있습니다.

Red Hat OpenShift가 에이전틱 AI의 미래에 어떻게 접근하는지 알아보려면 다음을 확인하세요.

• Red Hat Summit 2026 제품 스포트라이트 세션 시청 
• Red Hat 블로그 '모델이 수익을 창출하는 것이 아니라 애플리케이션이 수익을 창출합니다'를 확인해 보세요. 
• Red Hat OpenShift AI 제품 페이지를 방문해 보세요.