오픈소스 방식으로 AI 활용하기
인공지능(AI)은 분야와 산업에 관계없이 새로운 발견과 경험의 원동력이 되고 있습니다. Red Hat 플랫폼을 사용하여 오픈소스 커뮤니티의 속도, 신뢰성, 투명성으로 가속화된 AI 모델과 애플리케이션을 빌드, 배포, 모니터링하고 사용하세요.
AI 빌드와 사용을 위한 주요 솔루션
Red Hat® Enterprise Linux® AI
오픈소스 라이센스 LLM으로 시작하세요.
Red Hat Enterprise Linux AI는 창의성을 확장해 생성형 AI 애플리케이션을 구현할 수 있게 해줍니다.
Red Hat Enterprise Linux AI는 오픈소스 라이센스 대규모 언어 모델(LLM)로 구성된 그래니트 제품군과 LLM 기능 강화를 위한 커뮤니티 기반 솔루션인 InstructLab을 결합합니다.
Red Hat OpenShift® AI
하이브리드 클라우드에서 AI 애플리케이션을 생성하고 실행하세요.
Red Hat OpenShift AI는 자체 AI 지원 애플리케이션을 위한 모델을 빌드, 훈련, 테스트, 제공하는 오픈소스 플랫폼입니다.
데이터 사이언티스트와 개발자는 완벽히 지원되는 환경을 통해 온프레미스와 퍼블릭 클라우드에서 ML 워크로드와 모델을 신속하게 배포하고 모니터링할 수 있습니다.
Red Hat Lightspeed
AI로 효율성을 높이세요.
IBM watsonx Code Assistant가 통합된 Red Hat Ansible® Lightspeed에 이어, Red Hat은 플랫폼을 손쉽게 사용할 수 있도록 생성형 AI 서비스를 추가로 출시하고 있습니다.
Red Hat Lightspeed 포트폴리오에 문제를 해결하고 지원을 받기 위한 생성형 AI 기반의 가상 어시스턴트인 OpenShift Lightspeed가 포함될 예정입니다. 또한, 향후 출시될 Red Hat Enterprise Linux Lightspeed를 통해 Linux 빌드, 배포 및 관리 방법을 명확히 이해할 수 있습니다.
AI를 위해 Red Hat을 선택하는 이유
Red Hat의 오픈 하이브리드 클라우드 전략은 Linux, 컨테이너, 자동화라는 기술적 파운데이션으로 어디서나 유연하게 AI 애플리케이션을 실행할 수 있도록 지원합니다.
Red Hat Enterprise Linux AI는 기업 애플리케이션을 위한 그래니트 대규모 언어 모델(LLM) 제품군을 원활하게 개발, 테스트, 실행할 수 있는 기반 모델 플랫폼입니다.
Red Hat OpenShift AI는 팀이 투명성과 제어 권한을 가지고 AI 애플리케이션과 머신 러닝(ML) 모델을 빌드하고 배포할 수 있는 공통 플랫폼을 제공합니다.
대규모로 AI를 배포하는 경우, 주요 하드웨어 가속기에 액세스할 수 있는 Red Hat OpenShift가 AI 워크로드에 적합한 확장 가능 애플리케이션 플랫폼을 제공합니다.
AI 지원 툴은 Red Hat Ansible Automation Platform을 시작으로 Red Hat 포트폴리오 전반으로 확장되면서 Red Hat Lightspeed를 통해 생산성을 높이고 기술 장벽을 낮춥니다.
커뮤니티 프로젝트
Red Hat은 AI에 대한 오픈소스 접근 방식이 실험과 혁신의 장벽을 없앤다고 믿습니다.
Podman AI Lab은 로컬 워크스테이션에서 직관적인 그래픽 인터페이스를 사용해 개발자가 생성형 AI 애플리케이션을 빌드, 테스트, 실행할 수 있게 합니다.
OpenShift AI 샌드박스에서 실행
Red Hat OpenShift AI는 Open Data Hub와 기타 오픈소스 프로젝트에서 엄선된 구성 요소를 통해 데이터 사이언티스트와 개발자에게 데이터로부터 인사이트를 수집하고 AI 지원 애플리케이션을 빌드할 수 있는 강력한 오픈 하이브리드 AI/ML 플랫폼을 제공합니다. Red Hat의 개발자 샌드박스에서 체험해 보세요.
AI 생태계와 연결하기
Red Hat의 AI 파트너들과 함께 AI 파이프라인을 완성하세요. 데이터 통합 및 준비, AI 모델의 개발과 훈련, 모델 서빙, 새로운 데이터 기반의 추론 등 다양한 솔루션을 사용해보세요.
솔루션 패턴
Red Hat과 NVIDIA AI Enterprise를 활용한 AI 애플리케이션
RAG 애플리케이션 생성
Red Hat OpenShift AI는 데이터 사이언스 프로젝트를 빌드하고 AI 기능을 탑재한 애플리케이션을 제공하기 위한 플랫폼입니다. 자체 참조 문서에서 AI 답변을 얻는 방법인 검색 증강 생성(Retrieval-Augmented Generation, RAG)을 지원하는 데 필요한 모든 도구를 통합할 수 있습니다. OpenShift AI를 NVIDIA AI Enterprise와 연결하면 대규모 언어 모델(Large Language Model, LLM)을 실험하여 애플리케이션에 대한 최적의 모델을 찾을 수 있습니다.
문서 파이프라인 구축
RAG를 활용하려면 먼저 문서를 벡터 데이터베이스에 수집해야 합니다. 예시 애플리케이션에서는 제품 문서 세트를 Redis 데이터베이스에 임베드합니다. 이러한 문서는 자주 변경되기 때문에, 이 프로세스에 대한 파이프라인을 구축하여 주기적으로 실행하면 항상 최신 버전의 문서를 확보할 수 있습니다.
LLM 카탈로그 살펴보기
NVIDIA AI Enterprise에서 다양한 LLM 카탈로그에 액세스하여 여러 가지 옵션을 사용해 보고 그중에서 최상의 결과를 제공하는 모델을 선택할 수 있습니다. 모델은 NVIDIA API 카탈로그에 호스팅됩니다. API 토큰을 설정한 후에는 OpenShift AI에서 바로 NVIDIA NIM 모델 서빙 플랫폼을 사용하여 모델을 배포할 수 있습니다.
적합한 모델 선택
다양한 LLM을 테스트하면서 사용자는 생성된 각 응답을 평가할 수 있습니다. Grafana 모니터링 대시보드를 설정하면 각 모델의 평점, 대기 시간, 응답 시간을 비교할 수 있습니다. 그런 다음 해당 데이터를 기반으로 프로덕션에서 사용하기에 가장 적합한 LLM을 선택할 수 있습니다.
실제 AI 성공 사례
Ortec Finance를 도와 성장과 시장 출시를 앞당기는 Red Hat
위험 및 수익 관리를 위한 글로벌 기술 및 솔루션 제공업체인 오르텍 파이낸스(Ortec Finance)는 Microsoft Azure Red Hat OpenShift에서 머신 러닝 모델을 제공하고 Red Hat OpenShift AI를 도입하고 있습니다.
신규 고객 온보딩 속도를 높인 Banco Galicia
방코 갈리시아(Banco Galicia)는 AI 기반 자연어 처리(NLP) 솔루션인 Red Hat OpenShift를 사용하여 90%의 정확도로 검증 시간을 며칠에서 몇 분으로 단축했습니다.l
보스턴 대학의 교육 플랫폼 구축
보스턴 대학은 Red Hat OpenShift AI를 사용하여 컴퓨터 공학을 공부하는 수백 명의 사용자를 지원할 수 있도록 학습 환경을 확장했습니다.
