¿Qué es MLflow?

MLflow es una herramienta que ayuda a los desarrolladores a mantener organizados los proyectos de inteligencia artificial y machine learning (ML), desde las primeras etapas de experimentación hasta la implementación. Ofrece una plataforma unificada para el seguimiento, la gestión y la auditoría del ciclo de vida completo de todo tipo de elementos: desde modelos predictivos tradicionales hasta agentes de inteligencia artificial modernos. 

Al ser una herramienta open source independiente de los proveedores, MLflow se ejecuta en cualquier entorno (de forma local o con el proveedor de nube que elijas) y se integra a los marcos de machine learning más conocidos. Gracias a esta flexibilidad, MLflow es popular tanto entre los desarrolladores individuales como entre las empresas.

Descubre Red Hat AI

Antes del surgimiento de la inteligencia artificial generativa (gen AI), el machine learning se centraba en tareas predictivas, como realizar predicciones o señalar y clasificar datos. Incluso entonces, los equipos de análisis de datos carecían de herramientas estandarizadas para realizar un seguimiento de los experimentos e implementar modelos. Por esta razón, las repeticiones de los modelos se registraban en hojas de cálculo, notas personales y scripts inconexos. 

Las grandes empresas de tecnología tenían acceso a sistemas propietarios internos, pero no existía la opción open source. En consecuencia, muchos proyectos no lograban pasar con éxito de la fase experimental a la fase operativa real. 

Databricks creó MLflow para solucionar este problema y luego lo donó a la fundación Linux® Foundation. Gracias a ello, el sector de la tecnología ahora dispone de un conjunto de herramientas open source para respaldar cada fase del ciclo de vida del machine learning.

• Fase de prueba. MLflow reemplaza las notas manuales dispersas y proporciona un registro de seguimiento y peticiones para registrar cada cambio en los parámetros, las versiones del código y las actualizaciones. En el caso de las aplicaciones de inteligencia artificial generativa, los equipos pueden probar distintas peticiones desde un registro. Esto les permite ejecutar una evaluación automatizada (o LLM como juez) para calificar los resultados generados en cuanto a su precisión y riesgo de alucinaciones antes de lanzarlos. 
• Fase de traspaso. MLflow remplaza los traspasos manuales y empaqueta el código en un contenedor estandarizado que se ejecuta de la misma manera en todos los entornos. En el registro de modelos se almacena el historial definitivo de versiones y las aprobaciones a medida que los recursos pasan de la fase de pruebas a la de producción.
• Fase de lanzamiento. Una vez que se aprueba un modelo en el registro, MLflow convierte los recursos guardados en interfaces de programación de aplicaciones de transferencia de estado representacional (API REST) o en contenedores estándar listos para una integración más rápida en las aplicaciones o los servidores. Para las aplicaciones de inteligencia artificial generativa, la puerta de enlace de inteligencia artificial actúa como un controlador de tráfico, ya que gestiona las claves de las API y enruta los datos. 
• Fase de supervisión. MLflow ofrece herramientas de seguimiento y evaluación para medir la precisión de los resultados en vivo e inspeccionar el razonamiento en varios pasos de los agentes.

Accede a la demostración. Agentic tracing and observability with MLflow

MLflow organiza sus funciones en herramientas que puedes utilizar para el machine learning tradicional y la inteligencia artificial generativa moderna.

Funciones para el machine learning tradicional y el deep learning

• Seguimiento de modelos. Un registro automatizado en el que se almacenan las versiones del código, los parámetros, los indicadores de rendimiento y los gráficos cada vez que entrenas un modelo durante las etapas de prueba e investigación. 
• Empaquetado del modelo. Formato de empaquetado estandarizado que agrupa un modelo junto con todas las dependencias de software que necesita para ejecutarse de manera predecible en cualquier entorno. 
• Registro de modelos de MLflow. Un centro unificado para realizar un seguimiento de las aprobaciones y las transiciones a medida que el proyecto avanza de etapa en etapa. El registro de modelos se convierte en una fuente de información y funciona como un enlace al experimento original (en el seguimiento del modelo) para la auditoría.
• Implementación del modelo. Un conjunto de herramientas de publicación que convierte los modelos guardados en servicios compatibles con la web (API REST), contenedores o canales de inferencia. 
• Evaluación del modelo. Un marco que calcula automáticamente los indicadores de precisión y genera gráficos de rendimiento para los modelos entrenados. 

Funciones para la inteligencia artificial generativa y con agentes

• Seguimiento de MLflow. Una herramienta de determinación del estado interno compatible con OpenTelemetry que visualiza el proceso que siguen los agentes de inteligencia artificial para llegar a un resultado registrando las peticiones y las respuestas, las herramientas elegidas y los costos de los tokens. 
• Evaluación con un LLM. Esta función, también conocida como "LLM como juez", se vale de otros modelos de lenguaje para verificar la calidad de las respuestas que surgen de tu proyecto. Esto puede servir para comprobar si hay sesgos y mantener las medidas de seguridad en los resultados de tu modelo. 
• Registro de peticiones de MLflow. Un espacio de trabajo exclusivo para realizar un seguimiento de las plantillas de peticiones, gestionarlas y organizarlas. 
• Puerta de enlace de inteligencia artificial de MLflow. Un centro unificado en el que se realiza un seguimiento de los datos y se los enruta a medida que se trasladan mediante claves de API y proveedores externos. Permite gestionar el presupuesto y aplicar los límites de frecuencia. 
• Servidor MCP de MLflow. Un punto de conexión que permite que las aplicaciones de inteligencia artificial y los asistentes para la codificación interactúen con fuentes de datos y herramientas externas mediante el protocolo de contexto de modelos (MCP). 

MLflow está diseñado para ser independiente del marco, lo que significa que funciona con casi cualquiera de las herramientas que usan los desarrolladores y los analistas de datos. Es posible integrar marcos conocidos, como PyTorch, LangChain, Docker, y muchos más, en todo el ciclo de vida de MLflow. 

Descubre la observabilidad de la IA con MLflow

MLflow no solo simplifica el trabajo de los desarrolladores y los analistas de datos, sino que también es útil para los ejecutivos de TI que crean soluciones de inteligencia artificial empresarial. Las funciones de control en segundo plano de MLflow permiten proteger la privacidad de los usuarios, detectar errores antes de los lanzamientos y mantener tiempos de actividad confiables. Esto permite que los responsables de la toma de decisiones de TI controlen su infraestructura de inteligencia artificial en varias áreas fundamentales. 

• Soberanía digital. Las empresas pueden alojar MLflow completamente en las instalaciones, dentro de una red de nube privada o en un sistema aislado. Los datos confidenciales pueden permanecer dentro de los parámetros de seguridad de una empresa en lugar de exportarse a través de un proveedor externo. 
• Cumplimiento normativo. Algunos sectores (como el financiero, el de la salud y el legal) deben poder responder respecto de cada paso de una decisión automatizada. MLflow recopila esta información y proporciona registros de auditoría completos y metadatos de genealogía, lo que brinda visibilidad completa sobre la forma en la que se generaron los resultados a los equipos de cumplimiento normativo. Esta transparencia puede ser de utilidad en las iniciativas de inteligencia artificial explicable e inteligencia artificial soberana. 
• Control de costos centralizado. A través de la puerta de enlace de inteligencia artificial, los equipos de TI pueden enrutar todo el tráfico externo de inteligencia artificial (todo lo que fluye entre tus agentes, modelos de lenguaje y herramientas externas) a través de un único punto de control. Esto permite que las empresas establezcan límites de presupuesto, gestionen claves de API y conexiones MCP y realicen un seguimiento de los gastos de todos los equipos.

Red Hat® AI está diseñada para realizar inferencias rápidas, flexibles y eficientes a través de su servidor con vLLM. Conecta los modelos a tus datos de manera confiable para unificar la personalización y el desarrollo de agentes especializados en una sola plataforma. Nuestros productos cuentan con una base open source y te brindan el control total de los flujos de trabajo de inteligencia artificial en cualquier escala. 

La cartera de productos de Red Hat AI incluye Red Hat AI Enterprise, una plataforma para implementar, gestionar y ajustar la inferencia de esta tecnología y las aplicaciones que la utilizan, además de los flujos de trabajo de inteligencia artificial con agentes (Agentic AI) en cualquier infraestructura.

Descubre Red Hat AI