Motivos por los que el futuro de la inteligencia artificial depende de un ecosistema de PyTorch abierto y portátil

Este blog es una adaptación de nuestra presentación en PyTorch Day India.

Cuando se trata de elegir entre la tecnología de open source y la propietaria, el open source se impone, especialmente en el ámbito de la inteligencia artificial. Sin embargo, a medida que la era de la inteligencia artificial generativa avanza, las empresas enfrentan una nueva versión de un antiguo desafío. Si bien el sector avanza a una velocidad vertiginosa, gran parte de la infraestructura fundamental sigue estando fragmentada o confinada tras barreras propietarias. Si queremos aprovechar todo el potencial de la inteligencia artificial, debemos apostar por la apertura en todos los niveles: desde los conjuntos de datos y los procesos de entrenamiento hasta la infraestructura y las capas de servicio.

En Red Hat, nuestra visión de este futuro abierto es clara: libertad para elegir cualquier modelo, acelerador o nube. Para que esto sea una realidad, apostamos por las comunidades open source que se centran en generar el máximo impacto, como la comunidad de PyTorch. PyTorch es el motor que impulsa la flexibilidad, la capacidad de ajuste y, lo que es más importante, la accesibilidad para todas las empresas, independientemente de su proveedor de hardware o de nube. Para garantizar que la innovación en inteligencia artificial siga siendo democrática, debemos proteger la capacidad del usuario para elegir las herramientas y el hardware que mejor se adapten a sus necesidades específicas.

Fomento de la capacidad de acción, la democracia y la capacidad de elección

En la actualidad, gran parte de la conversación sobre la inteligencia artificial se centra en los modelos frontier masivos. Si bien estos modelos son impresionantes, pueden ser difíciles y costosos de gestionar, ya que a menudo requieren las GPU más recientes que consumen más energía. Esto limita el acceso a estas tecnologías y limita la innovación. Una gran alternativa es la inteligencia componible (composable intelligence) y, para impulsar este modelo en la comunidad, Red Hat creó el enrutador semántico de vLLM. Al actuar como un controlador de tráfico inteligente que dirige las solicitudes en función de la intención, esta herramienta permite que las empresas logren un razonamiento de alto nivel utilizando una infraestructura más accesible y eficiente. De esta manera, logramos que el desarrollo con agentes sea una realidad práctica para la comunidad open source, lo cual permite que el poder de la inteligencia artificial se aleje de los monolitos concentrados y se acerque a un modelo más distribuido y colaborativo.

El elemento central de toda estrategia de inteligencia artificial es el servidor de inferencia, es decir, la capa que conecta el modelo con el usuario. Para permitir la apertura y el alto rendimiento dentro de la capa de inferencia, Red Hat se convirtió en un gran impulsor de vLLM, uno de los proyectos más importantes dentro de la PyTorch Foundation. Con nuestro trabajo en vLLM, buscamos que el software que ejecuta y sirve los modelos sea tan portable como los propios modelos. De este modo, contribuimos a extender la adopción de la inteligencia artificial y a responder a las diversas necesidades de las empresas de todo el mundo. ¿Cómo se traduce esto en la práctica? En pocas palabras: priorizar la compatibilidad con vLLM desde el día cero, optimizar el rendimiento más allá de un solo nodo y cofundar llm-d. Al desglosar los elementos principales, como el prellenado y la decodificación, ayudamos a diseñar un estándar abierto y adaptable para la distribución de modelos que refleja la naturaleza distribuida e híbrida de las empresas modernas.

Además del software, la escasez y el costo del hardware siguen siendo algunos de los mayores obstáculos para la adopción de la inteligencia artificial. El software no debería limitar la libertad de elección ni convertirse en un obstáculo a la hora de elegir el hardware. Por eso, apostamos por un futuro en el que PyTorch pueda ejecutarse sin problema en cualquier entorno e invertimos en el desarrollo de un ecosistema de PyTorch que admita una amplia variedad de aceleradores. Esto incluye:

• vllm-cpu: En colaboración con otros líderes del sector, incorporamos la inferencia de alto rendimiento a las CPU actuales. Esto es fundamental para los casos prácticos en los que el costo y la energía representan limitaciones importantes.
• OpenReg: Este proyecto proporciona un marco que permite incorporar rápidamente nuevo hardware optimizado para reducir el consumo energético, sin necesidad de realizar cambios complejos en el núcleo de PyTorch.
• Kernels avanzados: A través de proyectos como Helion y Triton, Red Hat ayuda a simplificar la forma en que los desarrolladores crean software optimizado para los diferentes aceleradores, independientemente del hardware.

En conjunto, estas inversiones contribuyen a que la comunidad de PyTorch siga siendo el ecosistema más versátil e independiente del hardware para el desarrollo de la inteligencia artificial.

Refuerzo de PyTorch para la empresa internacional

Para que la inteligencia artificial pase de los laboratorios experimentales a los entornos de producción esenciales, como los que sustentan los bancos, las aerolíneas y los hospitales de todo el mundo, se necesita una confiabilidad de nivel empresarial. Como tercer mayor colaborador mundial del proyecto PyTorch, Red Hat no solo aporta funciones nuevas, sino que también contribuye a reforzar PyTorch para que pueda implementarse con confianza en entornos empresariales. Nuestros equipos solucionaron más de 60 problemas en Torch.Compile para garantizar la estabilidad durante las cargas de trabajo pesadas e integraron Red Hat Enterprise Linux (RHEL) en el sistema de CI upstream oficial de PyTorch. Cuando realizamos contribuciones a PyTorch, lo hacemos para asegurarnos de que todas las empresas puedan implementar la inteligencia artificial con el mismo nivel de confianza que tienen en sus sistemas operativos.

Los principios de acceso, capacidad de acción y libertad nos permiten aprovechar las ideas de toda la comunidad y acelerar el avance tecnológico más rápido de lo que podría hacerlo cualquier empresa por sí sola. Nuestro compromiso es diseñar las bases empresariales abiertas que el mundo necesita para alcanzar su máximo potencial, con cualquier modelo, acelerador o nube.