오픈소스 AI: Red Hat의 관점

한 줄 요약: 오픈소스 AI에 대한 Red Hat의 최소 기준은 오픈소스 소프트웨어 구성 요소와 오픈소스 라이선스 모델을 적용한 가중치를 포함하는 것입니다.

30여 년 전, Red Hat은 오픈소스 개발과 라이센스를 통해 더 나은 소프트웨어를 개발하여 IT 혁신을 앞당길 수 있는 가능성을 발견했습니다. 그 결과, Linux는 3천만 줄의 코드 위에서 성장하며 가장 성공적인 오픈소스 소프트웨어가 되었을 뿐만 아니라, 역사상 가장 뛰어난 소프트웨어 중 하나로 자리 잡았습니다. 오픈소스 원칙을 지키기 위한 Red Hat의 노력은 비즈니스 모델 뿐만 아니라 기업 문화에서도 계속되고 있습니다. Red Hat은 이러한 개념이 올바른 방식으로 구현될 경우 인공지능(AI)에도 동일한 영향을 미칠 수 있다고 생각하지만, 기술 업계마다 '올바른 방식'의 정의는 명확히 다릅니다.

AI, 특히 생성형 AI(AI)를 구동하는 대규모 언어 모델(LLM)은 오픈소스 소프트웨어와 똑같이 볼 수 없습니다. AI 모델은 소프트웨어와 달리 주로 모델 가중치로 구성됩니다. 모델 가중치는 모델이 입력을 처리하는 방법, 그리고 모델이 여러 데이터 포인트 간에 생성하는 연결을 결정합니다. 학습된 모델 가중치는 신중하게 준비, 혼합 및 처리된 방대한 학습 데이터를 포함한 광범위한 학습 프로세스의 결과입니다.

모델 가중치는 소프트웨어가 아니지만 일부 측면에서 코드와 유사한 기능을 제공합니다. 데이터는 모델의 소스 코드이거나 그와 유사하다고 볼 수 있습니다. 오픈소스에서 소스 코드는 일반적으로 소프트웨어를 수정하는 데 '선호되는 형식'으로 정의됩니다. 학습 데이터만으로는 이 역할을 수행하기에 적합하지 않습니다. 일반적으로 크기가 방대하고, 복잡한 사전 학습 프로세스로 인해 학습 데이터의 한 항목과 학습된 가중치 및 모델의 최종 동작 사이에 불확실하고 간접적인 연결이 생성되기 때문입니다.

현재 커뮤니티에서 진행 중인 AI 모델 개선 및 향상 작업의 대부분은 기존 학습 데이터에 대한 액세스나 조작을 포함하지 않습니다. 그 대신 모델 가중치를 수정하거나 미세 조정 프로세스를 진행한 결과입니다. 이는 모델 성능을 조정하는 데도 도움이 될 수 있습니다. 이러한 모델 개선 작업을 자유롭게 수행하려면 가중치를 오픈소스 라이센스에 따라 사용자가 제공받는 모든 권한과 함께 공개해야 합니다.

오픈소스 AI에 대한 Red Hat의 관점

오픈소스 AI에 대한 Red Hat의 최소 기준은 오픈소스 소프트웨어 구성 요소와 결합된 오픈소스 라이센스 모델 가중치입니다. 이는 오픈소스 AI의 최종 목적지가 아닌 시작점입니다. Red Hat은 오픈소스 커뮤니티, 규제 당국 및 산업이 AI 모델을 학습시키고 미세 조정할 때 투명성을 높이고 오픈소스 개발 원칙에 부합하기 위해 지속적으로 노력하도록 장려합니다.

이는 오픈소스 소프트웨어 에코시스템인 Red Hat이 오픈소스 AI에 실질적으로 참여할 수 있는 방법입니다. 오픈소스 이니셔티브(Open Source Initiative, OSI)가 오픈소스 AI 정의(Open Source AI Definition, OSAID)를 통해 진행 중인 것과 같이 공식적인 정의를 내리려는 시도가 아닙니다. Red Hat의 관점은 오픈소스 AI를 실현하고 광범위한 커뮤니티, 조직, 벤더가 더 쉽게 접근할 수 있도록 하는 것에 맞춰져 있습니다. 

Red Hat은 오픈소스 커뮤니티에서의 기여를 통해 이러한 관점을 실천에 옮기고 있습니다. Red Hat이 주도하는 InstructLab 프로젝트와 IBM Research와의 협업을 통해 개발한 Granite 오픈소스 라이센스 모델 제품군은 이를 잘 보여줍니다. InstructLab은 AI 모델 개발의 장벽을 낮춰 데이터 사이언티스트가 아닌 사람도 참여할 수 있도록 합니다. 다양한 산업의 도메인 전문가는 InstructLab을 통해 자신의 기술과 지식을 InstructLab에 추가하여 내부에서 사용하도록 하는 동시에 업스트림 커뮤니티가 광범위하게 액세스할 수 있는 공유 오픈소스 AI 모델을 구축하는 데 기여할 수 있습니다.

Granite 3.0 모델 제품군은 코드 생성에서 자연어 처리, 방대한 데이터세트에서의 인사이트 추출에 이르기까지 광범위한 AI 활용 사례를 다루며, 모두 허용적(permissive) 오픈소스 라이센스에 따라 수행됩니다. Red Hat은 IBM Research가 Granite 코드 모델 제품군을 오픈소스에 도입하도록 도왔으며, 오픈소스 관점에서, 그리고 Red Hat AI 오퍼링의 일부로 해당 모델 제품군을 지속적으로 지원합니다.

최근 DeepSeek 공개로 인한 파문은 오픈소스 혁신이 모델 수준을 넘어 그 이상에서 AI에 어떤 영향을 미칠 수 있는지를 보여줍니다. DeepSeek의 접근 방식에 대해서는 분명히 우려가 존재합니다. 모델의 라이센스에 모델이 어떻게 생성되었는지 명확하게 설명되어 있지 않아 투명성이 요구됩니다. 하지만 이러한 혼란은 AI의 미래에 대한 Red Hat의 관점을 확증합니다. 미래의 AI는 하이브리드 클라우드 전반의 모든 위치에서 특정 엔터프라이즈 데이터 활용 사례에 맞게 사용자 정의할 수 있는, 더 작고 최적화된 개방형 모델을 중심으로 하는 개방형 AI가 될 것입니다.

모델 수준을 뛰어넘는 오픈소스 AI 확장

오픈소스 기술과 개발 원칙은 Red Hat AI 포트폴리오와 마찬가지로 Red Hat AI 오퍼링의 핵심입니다. Red Hat OpenShift AI는 쿠버네티스, KubeFlow 및 OCI(Open Container Initiative)를 준수하는 컨테이너와 기타 다수의 클라우드 네이티브 오픈소스 기술을 기반으로 구축됩니다. Red Hat Enterprise Linux AI(RHEL AI)는 IBM의 오픈소스 라이센스 Granite LLM 제품군과 InstructLab 오픈소스 프로젝트를 통합합니다.

오픈소스 AI 분야에서 Red Hat의 작업은 InstructLab 및 Granite 모델 제품군을 훨씬 뛰어넘어 AI를 실제로, 생산적으로 사용하는 데 필요한 툴과 플랫폼으로 확장됩니다. Red Hat은 계속 확장 중인 다수의 업스트림 프로젝트와 커뮤니티에서 활발히 활동하고 있으며, 다음을 포함하여(단, 이에 국한되지 않음) 자체적으로 더 많은 프로젝트를 시작했습니다.

• RamaLama: AI 모델의 로컬 관리 및 제공에 있어 수고와 복잡성을 크게 줄이는 것을 목표로 하는 오픈소스 프로젝트
• TrustyAI: 더욱 책임 있는 AI 워크플로우를 구축하기 위한 오픈소스 툴킷
• Climatik: 에너지 소비와 관련하여 AI의 지속 가능성을 높이는 데 중점을 둔 프로젝트
• Podman AI Lab: 오픈소스 LLM 실험을 용이하게 하는 데 중점을 둔 개발자 툴킷

Red Hat는 최근 발표한 Neural Magic 인수를 통해 Red Hat의 AI 비전을 더욱 발전시켜 조직이 하이브리드 클라우드 전반에서 데이터가 어디에 있든 관계없이 오픈소스 라이센스 모델을 포함하여 더 작고 최적화된 AI 모델을 데이터에 맞게 조정할 수 있도록 지원합니다. 그런 다음 IT 조직은 vLLM 추론 서버를 사용하여 이러한 모델의 의사 결정과 출력을 강화함으로써 투명하고 지원되는 기술을 기반으로 AI 스택을 구축할 수 있습니다.

Red Hat은 오픈소스 AI가 하이브리드 클라우드에서 성공적으로 사용될 수 있다는 신념을 갖고 있습니다. 하이브리드 클라우드는 시장의 강력한 요구 사항, 즉 각 AI 워크로드에 가장 적합한 환경을 선택할 수 있는 유연성을 제공하여 성능, 비용, 확장, 보안 요구 사항을 충족합니다. Red Hat의 플랫폼, 목표, 조직은 이러한 노력을 지원하며, 오픈소스 AI 혁신을 지속적으로 추진하는 과정에서 산업 파트너, 고객, 광범위한 오픈소스 커뮤니티와 협력할 수 있기를 기대합니다.

AI 분야에서는 이러한 개방형 협업을 확대할 수 있는 엄청난 잠재력이 있습니다. 우리가 바라보는 미래는 모델에 대한 투명한 작업, 그리고 학습까지도 포괄합니다. Red Hat은 AI의 진화 속도를 고려할 때 아주 빠른 시일 내에 AI 민주화를 실현하고 AI 세계를 개방하기 위한 노력을 계속 지지하고 환영할 것입니다.