Hands on with vLLM
vLLM is an open source, memory-efficient engine for AI model inference. This interactive experience highlights how vLLM serves and deploys open models, reducing resource requirements while powering AI applications.
Ir para seção
Ir para seção
Next steps
- Learn more about Red Hat OpenShift AI
- Explore the broader Red Hat AI portfolio
- Read the Red Hat blog: Meet vLLM: Faster, more efficient LLM inference and serving
- Visit Red Hat Developer resources
Related resources
About the author of this page
Note: This demo may contain AI-generated content and/or media. All AI-generated content was reviewed or edited by a human before being made available to you.
Plataformas
- Red Hat AI
- Red Hat Enterprise Linux
- Red Hat OpenShift
- Red Hat Ansible Automation Platform
- Veja todos os produtos
Ferramentas
- Treinamento e certificação
- Minha conta
- Suporte ao cliente
- Recursos para desenvolvedores
- Encontre um parceiro
- Red Hat Ecosystem Catalog
- Documentação
Experimente, compre e venda
Comunicação
- Contate o setor de vendas
- Contate o atendimento ao cliente
- Contate o setor de treinamento
- Redes sociais
Sobre a Red Hat
A Red Hat é líder em fornecer tecnologias de nuvem híbrida aberta que compõem uma base consistente para aplicações transformadoras de TI e inteligência artificial (IA). Parceira de confiança das empresas da Fortune 500, a Red Hat oferece tecnologias de nuvem, desenvolvimento, Linux, automação e plataforma de aplicações, além de serviços premiados.
Selecionar idioma
Red Hat legal and privacy links
- Sobre a Red Hat
- Oportunidades de emprego
- Eventos
- Escritórios
- Fale com a Red Hat
- Blog da Red Hat
- Inclusão na Red Hat
- Cool Stuff Store
- Red Hat Summit