AI의 미래를 위한 하이브리드 기반

저는 매일 똑같은 압박에 직면해 있는 IT 경영진, 비즈니스 리더 및 파트너들과 이야기를 나눕니다. AI 실험 단계에서 진정한 엔터프라이즈 프로덕션 환경으로 전환하려면 어떻게 해야 할까요?

오늘날의 기술 관련 헤드라인들을 훑어보면 답은 간단해 보입니다. 업계는 에이전틱 AI라는 개념에 완전히 매료되어 있습니다. 이는 스위치 하나만 누르면 자율 소프트웨어 에이전트가 복잡한 기업 워크플로우를 실행한다는 약속과도 같습니다. 주류 담론에서는 AI를 마치 그 자체로 완전한 '마법의 상자'처럼 취급하곤 합니다. 적합한 독점 모델을 구매해 연결하기만 하면 운영상의 골칫거리가 사라질 것이라고 말이죠.

하지만 실제 현장에서 제가 만나는 글로벌 에코시스템의 리더들은 훨씬 더 냉혹한 현실에 직면해 있습니다. 이들은 오차 범위가 급격히 줄어들었다는 사실을 인지하고 다음과 같은 근본적인 질문을 던집니다. “우리는 실제로 무엇을 기반으로 구축해야 하는가?” 단순히 어떤 벤더, 어떤 클라우드, 어떤 모델을 선택하느냐의 문제가 아닙니다. 핵심은 잃어서는 안 될 소중한 자산들을 보호하면서도 빠르게 혁신할 수 있게 해주는 근본적인 토대가 무엇인가 하는 점입니다.

사실, 논의의 중심은 "모델의 규모가 얼마나 큰가?"에서 "플랫폼이 얼마나 유연한가?"로 옮겨가고 있습니다. 프론티어 모델이 계속해서 주류 담론을 장악하고 있지만, 실제 운영 환경은 이러한 거대 모델들을 중심으로만 돌아가지 않습니다. 겉만 화려한 데스크톱 데모 수준을 넘어 책임감 있는 엔터프라이즈 자산으로 거듭나려면, AI를 하나의 거대한 중앙 집중형 서비스로만 보는 시각에서 벗어나야 합니다. 엔터프라이즈 AI의 미래는 규모가 아니라 '선택'에 있다는 사실을 깨달아야 할 때입니다.

‘만능(one-size-fits-all)’ 모델이라는 환상

대규모 독점 프론티어 AI 모델을 서둘러 도입하다 보니, 보안에 대해 근거 없는 안도감을 갖게 되는 부작용이 생겼습니다. 하지만 이러한 대규모 언어 모델(LLM)은 일상적인 기업 업무에 과한 성능인 경우가 많으며, 비용을 상승시키는 동시에 단일 공급업체의 로드맵에 종속되게 만듭니다.

진정한 엔터프라이즈 가치는 단일 벤더로부터 나오지 않습니다. 엔터프라이즈 IT를 지원하는 환경이 단 하나만 존재할 수 없듯이, 엔터프라이즈 AI의 미래 또한 독점 모델, 오픈소스, 고도로 특화된 도메인별 모델들이 혼합된 형태가 될 것입니다. 소규모 오픈소스 모델은 프론티어 모델의 막대한 성능과 규모가 낭비될 수 있는 특정한 틈새 비즈니스 문제를 해결하는 데 이상적입니다.

금융, 의료, 자동차와 같이 높은 보안과 책임이 요구되는 산업에서 외부의 폐쇄형 소스 업체에 맹목적으로 의존하는 것은 비즈니스 리스크를 넘어 불가능에 가까운 일입니다. 기업은 소규모 오픈소스 모델을 사내에서 '서비스형(as-a-service)'으로 운영함으로써 독점 데이터를 기반으로 미세 조정을 수행하고, 성능을 극대화하며, 데이터 유출 위험을 획기적으로 낮출 수 있습니다. 무엇보다 컨텍스트가 중요합니다. 투자를 최적화하려면 사용 사례에 맞춰 AI 모델을 선택해야 하며, 그 반대가 되어서는 안 됩니다.

실리콘으로부터의 소프트웨어 독립

엔터프라이즈 기술 환경을 살펴보면, AI 확장의 가장 큰 걸림돌은 코드나 모델 자체의 성능이 아님을 알 수 있습니다. 바로 기본 인프라의 제약이 문제입니다.

현재 우리에게 필요한 것은 컴퓨팅의 민주화입니다. 엔터프라이즈 AI가 GPU 가용성이나 특정 실리콘 공급업체에 의해 가로막혀서는 안 됩니다. 전체 자동화 전략이 단일 하드웨어 아키텍처에 묶여 있다면, 막대한 공급망 리스크와 치솟는 비용 문제에 직면할 수밖에 없습니다.

프로덕션 경쟁에서 승리하려면 단일 하드웨어 제품군에서 AI 플랫폼을 분리해야 합니다. AI에서의 선택권이란 전문 아키텍처와 주요 공급업체를 통합하여 광범위한 하드웨어 에코시스템의 지원을 받는 기본 플랫폼을 갖추는 것을 의미합니다. 인프라는 일관된 추상화 계층의 역할을 해야 합니다. 워크로드에 생산 현장의 엣지 가속기가 필요하든, 강력한 데이터센터 핵심 장비가 필요하든, 통합 플랫폼을 사용하면 비즈니스 요구 사항에 따라 모델과 하드웨어 간에 워크로드를 원활하게 이동할 수 있습니다.

제어권이 곧 경쟁력

자동화가 핵심 워크플로우에 깊숙이 자리 잡으면서 조직은 디지털 자율성이라는 중요한 과제에 주목하고 있습니다. 제어권은 현대 IT의 궁극적인 경쟁력이며, AI 또한 동일한 경로를 따라야 합니다.

주권은 단순한 규제 절차를 넘어 기술 공급망, 운영, 지적 재산에 대한 절대적인 통제권을 유지하기 위한 핵심적인 비즈니스 우선순위로 발전했습니다. 데이터는 본질적으로 온프레미스, 멀티 퍼블릭 클라우드, 엣지 환경에 분산되어 있으므로 AI 워크로드는 데이터가 실제로 생성되는 곳과 가장 가까운 위치에 있어야 합니다.

AI를 학습시키고 튜닝하며 서비스하는 플랫폼을 직접 제어할 수 없다면 비즈니스 또한 제어할 수 없습니다. 이것이 바로 소버린 AI 전략에서 데이터 수집 및 학습 시 지역 및 국가별 경계를 설정해야 하는 이유입니다. 오픈 플랫폼에 전략의 기반을 두면 감사 가능성, 투명성, 코드 검사 및 수정의 자유를 확보할 수 있어 공급업체가 아닌 조직의 특정 운영 요구 사항을 충족하는 데 도움이 됩니다.

다음 단계를 위한 기반

급격한 기술 변화만을 쫓기보다는 실제로 상업적, 운영적 성공을 견인하는 요소에 집중해야 합니다.

차세대 자동화 시대에 번창할 조직은 단순히 독점적인 기술 하나만을 찾는 조직이 아닙니다. 최후의 승자는 선택의 폭을 넓힐 수 있도록 설계된, 신뢰할 수 있고 유연한 기반을 구축하여 적절한 위치에서 적합한 하드웨어를 통해 최적의 모델을 실행하는 데 집중하는 리더가 될 것입니다. 속도, 개방성, 플랫폼 유연성을 선택함으로써 오늘날의 복잡성을 해결하는 것은 물론, 앞으로 어떤 혁신이 일어나든 이에 맞춰 변화하고 유연하게 대처하며 재창조 및 확장할 수 있는 독보적인 자유를 누릴 수 있습니다.