Red Hat 블로그 IT 기술 복잡성을 해결하는 전문가 인사이트
Red Hat AI Inference Server 소개: 어디서나 최적화된 고성능 LLM 서빙
오늘은 Red Hat AI Inference Server를 살펴보겠습니다. 이 서버는 Red Hat AI 플랫폼의 핵심 구성 요소로서, Red Hat OpenShift AI와 Red Hat Enterprise Linux AI(RHEL AI)에 포함됩니다. AI Inference Server는 하이브리드 클라우드 환경 전반에서 실질적인 이식성과 함께 최적화된 LLM 추론 기능을 제공하도록 설계된 독립 실행형 제품으로도 제공됩니다.
최근 게시물
일관된 AI 플랫폼 구축: 커스터마이징과 엔터프라이즈 데이터의 만남
AI 솔루션을 기존 비즈니스 프로세스에 맞추고 AI 거버넌스 및 컴플라이언스 요구 사항을 충족하며 측정 가능한 비즈니스 가치를 제공하는 일관된 AI 플랫폼을 구축하는 방법을 알아보세요. 모델 동작을 맞춤 설정하는 데 있어 프롬프트 엔지니어링, 미세 조정 및 검색 증강 생성(RAG)의 역할을 알아보세요. 확장 가능한 기반을 위한 Red Hat OpenShift AI와 Red Hat AI Inference Server를 살펴보세요.
OpenShift Virtualization, 이제 Azure Red Hat OpenShift에서 정식 출시
Azure Red Hat OpenShift에서 기밀 컨테이너를 사용하여 워크로드 보안 강화
Microsoft Azure Red Hat OpenShift의 기밀 컨테이너는 몇 주 내에 출시될 예정입니다.
Istio 앰비언트 모드를 통해 제공되는 OpenShift Service Mesh 3.2
OpenShift Service Mesh 3.2에는 리소스 비용을 절감하는 Istio의 앰비언트 모드가 포함되어 있어 mTLS 암호화 등으로 애플리케이션을 보호할 수 있습니다.
화제의 뉴스
일관된 AI 플랫폼 구축: 커스터마이징과 엔터프라이즈 데이터의 만남
AI 솔루션을 기존 비즈니스 프로세스에 맞추고 AI 거버넌스 및 컴플라이언스 요구 사항을 충족하며 측정 가능한 비즈니스 가치를 제공하는 일관된 AI 플랫폼을 구축하는 방법을 알아보세요. 모델 동작을 맞춤 설정하는 데 있어 프롬프트 엔지니어링, 미세 조정 및 검색 증강 생성(RAG)의 역할을 알아보세요. 확장 가능한 기반을 위한 Red Hat OpenShift AI와 Red Hat AI Inference Server를 살펴보세요.
Red Hat Enterprise Linux AI
Red Hat Enterprise Linux AI는 기업 애플리케이션을 위한 그래니트 대규모 언어 모델(LLM) 제품군을 원활하게 개발, 테스트, 실행할 수 있는 기반 모델 플랫폼입니다.
채널별 검색
오토메이션
기술, 팀, 인프라를 위한 IT 자동화 최신 동향
인공지능
고객이 어디서나 AI 워크로드를 실행할 수 있도록 지원하는 플랫폼 업데이트
오픈 하이브리드 클라우드
하이브리드 클라우드로 더욱 유연한 미래를 구축하는 방법을 알아보세요
보안
환경과 기술 전반에 걸쳐 리스크를 감소하는 방법에 대한 최신 정보
엣지 컴퓨팅
엣지에서의 운영을 단순화하는 플랫폼 업데이트
인프라
세계적으로 인정받은 기업용 Linux 플랫폼에 대한 최신 정보
애플리케이션
복잡한 애플리케이션에 대한 솔루션 더 보기
가상화
온프레미스와 클라우드 환경에서 워크로드를 유연하게 운영하기 위한 엔터프라이즈 가상화의 미래
Inline CSS for this page
