DenizBank facilita el trabajo de sus analistas de datoss

Más de 100 analistas de datos que trabajan en DenizBank, un banco privado destacado de Turquía y el quinto más grande del país, querían que su flujo de trabajo actual fuera un proceso menos manual con un enfoque más estandarizado. Intertech, su filial de TI, se embarcó en un proyecto para ofrecer un entorno de desarrollo de modelos con estándares y canales automatizados para mejorar la productividad y el tiempo de comercialización. Una de las mejoras más importantes que implementó fue la adopción de Red Hat OpenShift AI para sus funciones de autoservicio y para ajustar la puesta a disposición de los modelos en la etapa de producción, además de aumentar la eficiencia operativa. Ahora, los analistas de datos pueden concentrarse en diseñar modelos más sólidos y seguros que nunca.

Beneficios: 

• mayor autonomía y estándares más uniformes a más de 120 analistas de datos de distintas líneas de negocio;
• agilización del tiempo de comercialización y garantía de modelos más sólidos y seguros;
• optimización del uso de la GPU con la segmentación.

La inteligencia artificial y el machine learning (aprendizaje automático) se están volviendo parte de nuestras vidas cotidianas, y las empresas de vanguardia ya han incorporado estas tecnologías en sus operaciones diarias. DenizBank, el quinto banco privado más grande de Turquía, es una de esas instituciones financieras. Tiene más de 120 analistas de datos en distintas líneas de negocio que abarcan áreas como la gestión de riesgos, el marketing y las relaciones con los clientes. Hasta la fecha, estos analistas altamente capacitados han desarrollado más de 100 modelos de inteligencia artificial y machine learning en equipos de 4 o 5 personas. "Nuestros modelos se centran sobre todo en las predicciones, como a qué tipo de clientes el banco debería otorgar crédito", dijo Salih Eliguzel, jefe de DevSecOps de Intertech, la empresa de tecnología de DenizBank. "Además, para la prevención de fraudes, nos ayudan a identificar anomalías que de otra forma no podríamos detectar; por ejemplo, si de repente una persona saca de un cajero automático una cantidad de dinero mayor a lo habitual".

Los analistas de datos dependen de los especialistas de TI de Intertech, la empresa de tecnología del banco, para obtener el entorno que necesitan. Sin embargo, aunque el entorno era innovador, seguía necesitando estaciones de trabajo complejas que no solo consumían muchos recursos y requerían una gran carga de procesamiento, sino que también debían configurarse para cada modelo. El desarrollo de modelos es un proceso complicado que implica la creación de ellos; la preparación de los datos para el entrenamiento, el perfeccionamiento y la validación, y la carga de los modelos al registro desde donde se ponen a disposición en la etapa de producción (inferencia).

"Estos procesos manuales, desde la creación del entorno de desarrollo de modelos en el entorno de trabajo hasta la preparación de los datos, obstaculizaban considerablemente la productividad de los analistas de datos, lo cual les impedía centrarse en las tareas más valiosas. Además, no podían validar sus modelos al nivel deseado", afirmó Eliguzel. "Las variables del entorno eran un desafío. No había forma de estandarizar ni controlar los nombres de los modelos, las integraciones de las bases de datos, los repositorios de código ni los sitios de control de versiones sin utilizar un producto especial".

La falta de estandarización generaba entornos de trabajo poco uniformes, y cada modelo accedía a los datos de manera individual. También complicaba el control de todo el entorno de cualquier modelo. Es más, los analistas de datos almacenaban su código en sus entornos de trabajo donde nadie más podía acceder a ellos.

Intertech buscaba diseñar una solución integral y estandarizada para los analistas de datos que les permitiera mejorar el tiempo de comercialización y redujera los costos del proceso de inteligencia artificial/machine learning. Específicamente, la empresa quería automatizar los canales de análisis de datos, ofrecer funciones de autoservicio y ajustar la puesta a disposición de los modelos en la etapa de producción, además de aumentar considerablemente la eficiencia operativa.

DenizBank adoptó Red Hat OpenShift hace más de tres años, lo que le permitió a Intertech conocer en profundidad la plataforma y comprender las ventajas que podía ofrecer.

Después de una evaluación minuciosa de la adopción de Red Hat OpenShift AI, quedó claro que esta tecnología era la solución adecuada para facilitar el trabajo de los analistas de datos. "Elegimos Red Hat OpenShift AI por su capacidad de aprovechar el poder de Kubernetes, su flexibilidad y su gestión sencilla", afirmó Eliguzel. "El enfoque declarativo que ofrece, es decir, la capacidad de gestionar todo como código, también es muy importante para nosotros".

El equipo de Intertech tiene experiencia en DevOps y ya había trabajado en la adopción de un enfoque de microservicios para la reestructuración de las aplicaciones de DenizBank, por lo que pudieron incorporar todo esto en la plataforma diseñada específicamente para los analistas de datos. Red Hat Consulting ayudó al equipo a diseñar la arquitectura de la solución de Red Hat OpenShift AI en DenizBank, que consta de 15 clústeres en total que se implementaron en las instalaciones y en servidores dedicados (bare metal).

"Red Hat Consulting escuchó nuestra visión sobre la transformación de los microservicios y nos ayudó a adaptar su solución técnica a las prácticas recomendadas actuales de DevOps y GitOps para satisfacer nuestras necesidades", explicó Eliguzel. "Esta es una de las ventajas más valiosas de nuestra asociación con ellos: analizar y adaptar todo en conjunto fue la mejor manera de conocer las prácticas recomendadas".

Intertech tenía el conocimiento especializado para definir el proceso y los estándares que los analistas de datos debían usar en la plataforma: convenciones de nomenclatura, formas de crear un entorno de trabajo, capacidad requerida de recursos informáticos, requisitos del uso de la GPU y mucho más. Después de esto, la empresa implementó las adaptaciones de GitOps.

"Gracias a Red Hat OpenShift AI, ahora los analistas de datos de DenizBank tienen acceso a una variedad más amplia de tecnologías de inteligencia artificial open source", expresó Taner Kılıç, líder del grupo de Arquitecturas y Plataformas de Software de Intertech. "Esto les permitirá aprovechar al máximo el poder de la plataforma".

Red Hat OpenShift AI integra el controlador de Kubeflow Notebook, la puesta a disposición de los modelos en la etapa de producción y los elementos del canal de análisis de datos para simplificar la implementación del flujo de trabajo de inteligencia artificial/machine learning según sea necesario. Proporciona imágenes de clústeres diseñadas con anterioridad o personalizadas para crear modelos con notebooks de Jupyter. Además, realiza un seguimiento de los cambios en Jupyter, TensorFlow, PyTorch y otras tecnologías de inteligencia artificial open source.

Analistas con más autonomía y estándares más uniformes

Red Hat OpenShift AI garantiza que los analistas de datos tengan la autonomía que necesitan para diseñar y crear modelos que desarrollen aplicaciones centradas en la inteligencia con un conjunto de estándares sólidos. Se acabó el caos de reconfigurar los entornos manualmente para pasar de un modelo a otro; ahora pueden dedicar más tiempo a diseñarlos.

"Gracias a la incorporación de Red Hat OpenShift AI a nuestro conjunto de herramientas, los analistas de datos tienen más autonomía y mejores estándares", afirmó Ömer Uyar, director de tecnología de Intertech. 

Cuando un analista de datos comienza el proceso de crear un modelo nuevo, las funciones de autoservicio lo guían en el diseño de un entorno de desarrollo de modelos de inteligencia artificial personalizado. Solo deben elegir una imagen base diseñada previamente o una personalizada con las bibliotecas estándares de la empresa y definir los requisitos. Luego la plataforma crea todo por ellos automáticamente.

"Red Hat OpenShift AI proporciona plantillas estandarizadas e imágenes de clústeres diseñadas con anterioridad, con todas las bibliotecas necesarias integradas", comentó Eliguzel. Esas imágenes base incluyen imágenes de la GPU para modelos específicos de Python, por ejemplo. Los plugins permiten funciones sencillas y listas para usar cuando conectas una fuente de datos y mucho más.

agilización del tiempo de comercialización y garantía de modelos más sólidos y seguros;

 Intertech espera que Red Hat OpenShift AI reduzca el tiempo de comercialización de los modelos nuevos de una semana a tan solo diez minutos. "Hemos sido testigos de que la automatización de todo el proceso de desarrollo de microservicios nuevos con Red Hat OpenShift AI disminuye el tiempo de comercialización", dijo Eliguzel. "Esperamos mejorar de manera similar el desarrollo de los modelos nuevos de inteligencia artificial/machine learning".

Además de automatizar el diseño de los entornos, las funciones de autoservicio permiten que los analistas de datos implementen sus modelos automáticamente a través de canales, lo que elimina posibles demoras en la implementación del modelo. Si bien ahora los analistas tienen mucha autonomía, las medidas de protección garantizan que respeten los estándares y las normas. "Los analistas de datos pueden trabajar de manera independiente y más eficiente", afirmó Eliguzel, "pero esperamos que cumplan con los estándares y las prácticas recomendadas".

El cambio de los procesos manuales a los automatizados con las prácticas recomendadas no solo agiliza el tiempo de comercialización, sino que también crea modelos más seguros y confiables. Dado que ahora el código se almacena en un repositorio central, las revisiones garantizan que los modelos se validen por completo. 

"Red Hat OpenShift AI es una solución basada en inteligencia artificial imprescindible, ya que proporciona un entorno optimizado que permite a nuestros analistas de datos diseñar e implementar modelos más sólidos y seguros", dijo Okan Çetinkaya, director de datos y de análisis de DenizBank.

Además, las prácticas recomendadas y las GitOps fundamentales posibilitan el enfoque declarativo que buscaba Intertech. "Puedes eliminar y volver a diseñar un entorno y tener todo funcionando nuevamente en muy poco tiempo", comentó Eliguzel. "OpenShift GitOps nos proporciona plantillas (charts de Helm que gestiona ArgoCD) para que los rediseños sean rápidos y uniformes.

optimización del uso de la GPU con la segmentación.

La integración con los paneles de control de NVIDIA permite supervisar las GPU a fin de optimizar su uso, tanto para el entrenamiento como para la puesta a disposición en la etapa de producción. Así, Red Hat OpenShift AI controla el tamaño de la GPU de cada modelo: "Red Hat OpenShift AI nos permite optimizar mejor el uso de la GPU", afirmó Eliguzel. "Ajusta automáticamente los segmentos de la unidad a la que puede acceder el modelo, según sea necesario".

Red Hat OpenShift AI aprovecha la tecnología de GPU de múltiples instancias (MIG) de NVIDIA con el operador de GPU de NVIDIA para dividir la unidad en varias instancias aisladas. Cada una tiene su propia informática exclusiva, memoria y ancho de banda, lo que permite que varios pods en distintos proyectos accedan a los recursos de la GPU con calidad de servicio garantizada y aislamiento de fallas. Esto aumenta al máximo el uso de los recursos, mejora la flexibilidad y permite que más cargas de trabajo se ejecuten simultáneamente sin la necesidad de implementar hardware de GPU adicional.

Los objetivos principales de Intertech eran lograr una mayor estandarización y crear un entorno de desarrollo de modelos de autoservicio. Al haber establecido ciertos estándares y automatizaciones de canales, ahora el enfoque está en migrar a todos los analistas de datos y sus modelos a Red Hat OpenShift AI. Las prioridades futuras incluyen la mejora del uso de los recursos informáticos (la CPU, la GPU y la memoria) y de las funciones y los tiempos de la inferencia de modelos con la plataforma.

"Los analistas de datos destacaron los desafíos relacionados con el tiempo que se requiere para configurar entornos y entrenar modelos nuevos", dijo Eliguzel. "Red Hat OpenShift ofrece automatización completa, herramientas avanzadas y estándares sólidos, que están específicamente diseñados para mejorar la productividad de los analistas de datos. En Red Hat OpenShift AI, se pueden diseñar aplicaciones y modelos en paralelo".