En concreto, según ha anunciado en una nota de prensa, con el apoyo de Nvidia, el Santander AI Lab ha desarrollado nuevas capacidades para evaluar modelos y agentes de IA destinados a aplicaciones bancarias que permiten determinar qué modelo es el más adecuado y eficiente para cada tarea.
«El trabajo se lleva a cabo en el Santander AI Lab, que explora y prueba tecnologías emergentes de IA antes de desplegarlas al conjunto del banco», detalla la entidad cántabra. De esta forma, Santander está evolucionando el uso de la IA de los grandes modelos generales a modelos más pequeños y especializados para tareas bancarias concretas.
De hecho, afirma que, en casos de uso experimentales, esta forma de trabajar ha llegado a reducir el coste de ejecución de unos 5 euros por interacción a unos 0,03 euros, manteniendo «buenos resultados».
Santander explica que ha creado en su laboratorio Model Arena, una plataforma que evalúa modelos de pesos abiertos en tareas bancarias (open-weight models) y permite identificar el más adecuado para cada uso. Además, el banco también está ajustando modelos para tareas concretas con Nvidia NeMo Customizer.
«Las pruebas comparativas en atención al cliente han demostrado que los modelos más pequeños y especializados dan buenos resultados en tareas bancarias concretas«, destaca el banco que preside Ana Botín.
Además, Santander ha desarrollado inteligencia especializada para procesos de core bancario sobre Nvidia Kumo, una familia de modelos fundacionales de pesos abiertos para datos estructurados que «permite a las empresas convertir rápidamente esos datos en la información predictiva necesaria para prestar servicios que usan agentes».
El Lab está incorporando estas capacidades a la infraestructura tecnológica de Santander mediante Nvidia DynamoTriton, la tecnología que ha hecho posible la reducción de costes descrita anteriormente. Además, desarrolla Model Arena para diseñar, simular, evaluar y supervisar agentes bancarios, y trabaja para mejorar su resultado y someter la IA conversacional a pruebas de esfuerzo en entornos controlados.
«El objetivo es contar con un proceso riguroso que evalúe y perfeccione las nuevas tecnologías de IA antes de desplegarlas en todo el grupo», afirma Santander.
MODELOS ESPECIALIZADOS
A partir de estos avances, Santander da el paso desde modelos de pesos abiertos hacia modelos especializados y agentes bancarios «sujetos a mecanismos de gobernanza para mejorar el control, reforzar la seguridad y reducir los costes a gran escala».
Una colaboración que ya está dando resultados, después de que en un caso de uso experimental de atención al cliente, Santander lograse mejorar la calidad de las conversaciones y redujese los costes en más de un 50% gracias a un modelo de IA más eficiente.
Y para continuar con estas iniciativas, Santander y Nvidia han sellado un marco de colaboración de tres años que abarca ámbitos como los modelos fundacionales, los agentes de IA, las capacidades para prevenir el fraude y el blanqueo de capitales, la toma de decisiones en tiempo real y tecnologías avanzadas de simulación, como un gemelo digital bancario.
Iñaki Bernal, responsable de Inteligencia Artificial de Santander, ha dicho que «Nvidia es clave en la infraestructura, el software y la investigación que impulsan los últimos avances en inteligencia artificial. Si a ello sumamos la escala de Santander en líneas de negocio, clientes y presencia geográfica, creemos que estamos en una posición única para convertir esos avances en capacidades bancarias útiles y concretas».
Por su parte, Aser Blanco, responsable global de Banca en Nvidia, ha afirmado que «la banca es uno de los sectores que más depende de los datos, que son el eje de todos sus procesos, y el siguiente paso consiste en poner la inteligencia en el centro. Convertir años de datos en inteligencia útil y propia no depende del tamaño del modelo, sino del entrenamiento y del ajuste fino».
«En este escenario, el coste de cada resultado generado por la inteligencia artificial es una métrica fundamental. Santander está demostrando cómo llevar esto a producción: modelos más pequeños, especializados con los datos del propio banco, evaluados en tareas bancarias reales y ejecutados con la eficiencia necesaria para operar a la escala de un banco global», ha añadido.
Source: Bolsamania.com
