크게 생각하고 작게 시작하기: 2025년, 집중형 AI(focused AI)가 주목받는 이유

최근 Red Hat 고객들과 이야기를 나누다 보면, 결국 화제가 AI로 옮겨가곤 합니다. 그럴 때마다 저는 종종 같은 말을 하게 됩니다. 작은 시작이 더 효과적일 수 있다는 것이죠. 

그 이유를 설명해 드리겠습니다. AI와 관련하여 크게 생각하는 것이 나쁜 것은 아닙니다. 이 기술이 제공하는 기회는 무궁무진합니다. 고객들이 그러한 기회를 포착하기 위해 과감하고 야심 찬 계획을 세우는 것은 당연한 일입니다. 

실제로 세계 최대의 에너지 및 화학 통합 기업 중 하나인 Aramco가 현재 Red Hat과 함께 이러한 기회를 모색하고 있습니다. 양사는 양해각서(MOU)를 통해 AI가 지역 인재를 위한 교육 및 기술 개발 이니셔티브를 제공하는 방법을 함께 모색할 예정입니다. 이는 AI가 인프라 툴의 성능과 리소스 활용도를 높일 수 있는 방법, 컨테이너화된 애플리케이션의 사이버 보안 조치를 개선하기 위한 새로운 전략과 같은 다른 기회와 함께 제공됩니다.

동시에 많은 기업이 관심의 범위를 좁히고 생각의 범위를 좁혀 AI로 빠른 성공을 거두고 있습니다. 이들의 공통점은 매우 구체적인 업무 환경 과제에 집중한다는 점이며, SLM(Small Language Models, 소규모 언어 모델)을 사용하여 해결합니다. 

AI의 맥락에서 '소규모'라는 용어는 상대적인 용어입니다. LLM(대규모 언어 모델)은 수천억 개(또는 수조 개)의 매개 변수를 보유할 수 있지만 SLM(소규모 언어 모델)은 여전히 수백만에서 수십억 개의 매개 변수 범위일 수 있습니다. 다시 말해, 그렇게 작지는 않습니다. 이러한 이유로 새로운 용어를 만들 수 있다면 SLM을 FLM(Focused Language Model, 집중 언어 모델)이라고 생각하는 경향이 있습니다. 

SLM은 규모를 감안할 때 미세 조정(fine-tuning)을 통해 더 쉽게 맞춤 설정할 수 있습니다. 미세 조정은 산업 또는 기업별 전문 지식과 관련된 제한된 데이터 세트를 기반으로 학습합니다. 이러한 접근 방식을 통해 현명한 기업의 직원들은 비즈니스 문제를 더 빠르게 해결할 수 있을 뿐만 아니라, AI가 자신과 동료들이 직면할 수 있는 다른 비즈니스 프로세스 장애물에 어떻게 적용되는지에 대한 더 큰 인사이트를 얻을 수 있습니다.

뭐라고 부르든, SLM은 특정 분야에 특화되어 탁월한 성과를 낼 수 있습니다. 예를 들어, 금융 서비스 제공업체는 규제 데이터로 훈련된 SLM을 활용하여 규정을 위반하는 거래를 적발할 수 있습니다. 의료 서비스 제공업체는 의료 데이터세트에 대해 훈련된 SLM 기반 챗봇을 사용하여 환자의 상태에 대한 질문에 대한 응답에 특정 분야의 지식을 주입할 수 있습니다. 

이는 매우 효율적인 접근 방식입니다. SLM이 설계된 활용 사례와 직접적으로 관련이 없는 데이터에 대해 SLM을 훈련할 필요가 없기 때문입니다. 불필요한 정보에 얽매일 필요도 없습니다. 또한 SLM은 광범위한 주제에 대한 광범위한 쿼리를 해석하고 응답하지 않습니다. 

이것이 바로 LLM이 해야 할 일이며, 엄청난 복잡성과 막대한 리소스 요구 사항의 상당 부분을 차지합니다. 이와 대조적으로 SLM을 훈련하고 미세 조정하는 데 걸리는 시간이 더 짧고, 하드웨어 요구 사항이 훨씬 적으며, 오류가 발생하거나 관련이 없는 응답을 반환하는 경향이 크게 줄어듭니다.

AI로 기술 격차 해소

2025년에는 SLM이 우리가 직면한 많은 비즈니스 문제를 해결하는 데 중요한 역할을 할 것 같습니다. 가장 먼저 떠오르는 사례 중 하나는 급속도로 고령화되는 유럽 노동력의 고령층 은퇴 연령이 다가옴에 따라 더욱 심화되는 만성적인 기술 위기입니다. 

SLM은 장기 근속의 전문 지식을 갖춘 직원이 수행하는 업무 중 일부, 예를 들어 법률 또는 규제 문서를 분석하거나 특정 제품이나 서비스에 대한 반복적인 불만 징후를 파악하기 위해 고객 피드백을 분석하는 데 매우 적합할 수 있습니다. 엔지니어링 기술이 중요한 경우, SLM을 활용하여 기계 및 장비에 설치된 센서와 스마트 기기에서 수집된 데이터를 분석하여 유지보수 필요성을 예측할 수 있습니다. 

간단히 말해, SLM은 기업이 2025년에 AI를 통해 상당한 진전을 이루는 데 도움이 될 수 있는 좋은 방법입니다. 이는 효율적이고, 접근성이 뛰어나고, 높은 사용자 정의성을 제공하며, 노력에 대한 더 빠른 보상을 가져올 수 있는 잠재력을 가지고 있습니다. 

오픈소스 기술을 활용하면 협업을 통해 공개된 기술을 활용하여 이러한 경험을 더욱 간소화할 수 있습니다. 즉, 모든 AI 프로젝트를 처음부터 시작할 필요가 없으며, 다른 팀이 SLM을 통해 경험한 통찰력과 과제를 활용할 수 있습니다. 

더욱이 기업은 자사의 특정 데이터와 지식을 기반으로 훈련되고, 비즈니스 활용 사례를 원하는 방식으로 정확하게 지원하며, 기업의 목적에 맞춰 고도로 튜닝된 SLM을 구축할 수 있는 유연성을 갖습니다.