Red Hat OpenShift AI

Red Hat® OpenShift® AI는 오픈 웨이트 모델과 자율 에이전트를 대규모로 배포할 수 있는 유연한 하이브리드 클라우드 플랫폼입니다.

체험하기

Red Hatter에게 문의하기

빠른 링크

제품 설명서 보기

학습 시작하기

핸즈온 교육받기

Red Hat OpenShift AI 데모를 시청하세요. 재생 시간: 5분 59초

Red Hat OpenShift AI란?

Red Hat OpenShift AI는 포괄적인 MLOps, GenAIOps, AgentOps 기능을 결합하여 에이전틱 AI 애플리케이션의 프로덕션 배포를 가속화합니다.

PyTorch, Kubeflow, MLflow, vLLM과 같은 오픈소스 툴을 통해 팀은 AI 모델과 애플리케이션을 대규모로 실험, 서빙, 제공할 수 있습니다.

라이브 AI 이벤트에 참여하여 자세히 알아보기

장점

효율성

사전 구축되거나 사용자 정의된 클러스터 이미지에 액세스하고 선호하는 프레임워크를 사용하세요. Red Hat에서 테스트하고 검증한 AI 툴을 활용하여 중요한 작업에 집중할 수 있습니다.

제어

안정적인 MLOps 기반을 위해 비용, 데이터 프라이버시, 에이전트 라이프사이클을 안정적으로 관리하세요. Red Hat OpenShift AI에 맞게 검증된 최적화된 프로덕션 지원 타사 모델로 가시성을 높일 수 있습니다.

유연성

단일 AI 애플리케이션 플랫폼에서 데이터 사이언티스트, AI 엔지니어, 개발자가 협업하고 온프레미스, 엣지 또는 폐쇄망 환경 등 하이브리드 클라우드 전반에 모델을 배포할 수 있습니다.

AI 안전성 및 보안

빠르게 확장할 때 보안 위협으로 인해 속도가 늦어지는 일은 없어야 합니다. Red Hat OpenShift AI를 사용하면 확장 과정에서 가시성을 추가로 확보할 수 있습니다.

유해하거나 편향되었거나 주제에서 벗어난 입력과 출력을 필터링하여 공정성과 안전성을 유지하세요. 실시간 NeMo 가드레일과 같은 툴로 악의적인 행위자로부터 모델을 보호하고, 적대적 취약점 스캔을 사용하여 환각과 편향을 방지하세요.

생성형 AI 모델을 보호하는 방법을 알아보세요. 영상 재생 시간: 10분 2초

제품 주요 내용

데이터시트 보기

특징	상세 정보	장점
에이전틱 AI	MLflow를 사용해 에이전틱 AI를 위한 AgentOps를 구현하세요.	모델과 툴에 대한 엔드 투 엔드 추적성을 확보할 수 있습니다.
vLLM	vLLM은 GPU 리소스를 효율적으로 사용하여 생성형 AI 추론 비용을 관리하는 데 도움이 됩니다.	더 낮은 토큰당 비용과 대규모 환경에서도 안정적인 대기 시간으로 AI 추론을 가속화할 수 있습니다.
MCP 서버	모델 컨텍스트 프로토콜(MCP) 서버는 외부 툴 액세스를 능동적으로 관리하고 변환합니다.	이를 통해 관리형 액세스와 보안을 바탕으로 에이전틱 워크플로우를 간소화할 수 있습니다
프라이빗 AI	프라이빗 AI는 온프레미스 및 폐쇄망 모드를 지원합니다.	AI 계층을 통해 디지털 주권 전략을 강화할 수 있습니다.
서비스형 모델	MaaS는 IT의 역할을 토큰 소비자에서 내부 제공자로 전환합니다.	개발자가 관리하는 셀프 서비스 방식으로 고성능 모델에 액세스할 수 있습니다.
llm-d	llm-d는 복잡한 LLM을 대규모로 최적화할 수 있도록 오픈소스 프레임워크에서 명확한 경로를 제공합니다.	원하는 쿠버네티스 배포판에서 실행되는 AI 인프라를 더욱 효과적으로 활용할 수 있습니다.
AI hub	AI hub는 타사 모델 검증을 통해 성능 인사이트를 제공합니다.	LLM을 포함하여 신뢰할 수 있는 기반 AI 자산을 중앙에서 관리할 수 있습니다.
gen AI studio	gen AI studio는 모델과 직접 상호 작용할 수 있는 핸즈온 환경을 제공합니다.	플레이그라운드를 통해 생성형 AI 애플리케이션의 프로토타입을 신속하게 생성할 수 있습니다.