Cómo Scotiabank creó una cultura de inteligencia artificial ética y comprometida

¿Qué se necesita para producir una iniciativa de IA que gane un premio? Scotiabank —oficialmente el Banco de Nueva Escocia y uno de los bancos más grandes de Canadá— ganó recientemente dos premios por IA en un evento. DataIQ dio El banco recibió el premio al Uso Más Innovador de IA por su chatbot y reconoció su programa general de ética de datos e IA como el Mejor Programa de IA Responsable, calificándolo de “iniciativa pionera en la industria financiera”.

Creemos que sería útil describir cómo surgió un caso de uso de IA que es innovador y responsable, y cómo un caso de uso de IA en particular refleja la cultura en la que se desarrolló. Lo último que escribí sobre Scotiabank fue en 2021pero muchas cosas han cambiado desde entonces, y no solo la llegada de la IA generativa.

Cómo crear un chatbot exitoso

La aplicación que ganó el premio a la innovación DataIQ respalda un chatbot para el centro de contacto de Scotiabank. Es posible que sepa que los chatbots basados ​​en IA son comunes entre los grandes bancos. Lo que hace que un chatbot sea mejor que otro es la calidad del conocimiento subyacente que incorpora y la calidad de los modelos de IA que lo ofrecen a los clientes. Scotiabank está abordando ambas cuestiones.

Grace Lee, directora de datos y análisis del banco, dijo que está particularmente orgullosa del esfuerzo participativo del centro de contacto para mejorar la calidad del conocimiento. El centro se apropió de su base de conocimiento y la organizó de manera eficaz para garantizar que cada documento introducido en el chatbot fuera claro, único y actualizado. El premio reconoció la aplicación creativa de modelos de IA auxiliares de la herramienta que mejoran y mantienen el entrenamiento del chatbot. Esta estrategia de IA para IA ha permitido al equipo de Lee automatizar partes importantes del proceso de entrenamiento del bot, como la identificación de nuevos temas de entrenamiento óptimos, lo que ahorra miles de horas de trabajo manual. Con estas eficiencias ha surgido un mejor producto: desde su introducción a fines de 2022, el nivel de precisión del chatbot ha aumentado del 35 % al 90 %.

Más del 40% de las preguntas de los clientes a través del chat se responden sin intervención humana. Cuando los clientes deciden que necesitan hablar con un agente humano, esperan que este esté familiarizado con lo que han discutido con el chatbot. Para ofrecer esta capacidad, el banco ha desarrollado una función de resumen rápido utilizando grandes modelos de lenguaje. El agente recibe un breve resumen de texto de la conversación, que incluye la intención del cliente y la acción solicitada. Tener el resumen disponible reduce el tiempo total necesario para que el agente se ponga al día entre un 60% y un 70%.

El personal del centro de contacto no fue el único que trabajó en el chatbot. Otros grupos incluyeron la organización de análisis, datos e información sobre clientes de Lee; el departamento de diseño y productos digitales; y el de ingeniería de software. Lee nos dijo que el desarrollo participativo y colaborativo del chatbot es un indicador de un cambio cultural en el banco.

A medida que las herramientas de IA generativa como ChatGPT han hecho que la IA sea más accesible, las personas están lo suficientemente entusiasmadas y comprometidas con lo que la IA puede hacer ahora como para estar más dispuestas a realizar mejoras en los datos no estructurados que se utilizan para alimentarla. Esto es coherente con los hallazgos de nuestra encuesta más reciente de entornos de datos de grandes organizaciones sobre Estado de los datos y la IA en las empresas líderes en 2024:Por primera vez en la historia, la cantidad de encuestados que afirmaron que sus organizaciones habían establecido una cultura de datos y análisis se duplicó (del 21 % al 43 %) en un año. Llegamos a la conclusión de que la IA generativa era la causa más probable, y los comentarios de Lee parecen respaldar esa hipótesis.

Un nuevo dominio de datos

Cuando escribimos sobre Scotiabank hace tres años, el enfoque de la gestión de datos estaba puesto en la creación de conjuntos de datos autorizados reutilizables (RAD, por sus siglas en inglés). Ahora que el banco ha trasladado sus datos a la nube, el enfoque se centra en consolidar los RAD en un modelo de datos empresariales alojado en la nube al que todo el banco pueda acceder: esto crea una versión de la verdad y simplifica la gestión, la gobernanza y el uso de los datos. Los datos estructurados de este tipo siempre serán importantes para los bancos y la mayoría de las demás organizaciones.

Sin embargo, lo que es nuevo en Scotiabank es el intento de gestionar datos no estructurados, como lo hizo el centro de contacto con las preguntas y respuestas de sus clientes. Este tipo de datos es el combustible de la IA generativa, pero la mayoría de las organizaciones no han comenzado realmente a gestionarlos de manera efectiva. Encuesta a líderes de datos A finales de 2023, el 93% estaba de acuerdo en que una nueva estrategia de datos era fundamental para el éxito de la IA generativa, pero el 57% no había tomado ninguna medida hacia un nuevo enfoque.

Pero Lee, del Scotiabank, está tomando medidas. Dijo que “a pesar de que la gestión del conocimiento es un ejercicio perenne y abrumador, con muchos documentos y políticas relacionadas con una gran cantidad de productos y servicios en múltiples geografías”, considera que la gestión del conocimiento, la información y los documentos es parte de su competencia en materia de datos. “Sin duda, descubriremos muchas duplicaciones y desafíos con nuestra base de conocimiento”, dijo, citando el descubrimiento por parte del centro de contacto de múltiples versiones de la misma política bancaria, a menudo en impresiones en papel.

El banco ha comenzado a abordar el problema con una variedad de iniciativas. Dado que existe un gran interés en los experimentos de inteligencia artificial generativa y una estrecha conexión entre el conocimiento del negocio y el conocimiento en cada parte del mismo, Lee dijo que espera que el lado comercial del banco se haga cada vez más cargo de la calidad de los datos no estructurados. Además del centro de contacto, Scotiabank también ha depurado la base de conocimientos para el negocio de pagos. Era un conjunto de productos más limitado de lo que el centro de contacto necesitaba abordar, y Lee dijo que su grupo logró que el equipo comercial de ese grupo se pusiera al día rápidamente sobre cómo seleccionar su propio contenido. Ella espera que su grupo haga eso progresivamente en otras partes del banco.

La ética incorporada

Como ya comentamos en un Columna anterior sobre UnileverHemos estado argumentando que las organizaciones necesitan incorporar un pensamiento orientado a la ética en el proceso de creación de soluciones de IA desde una etapa temprana. Scotiabank está adoptando ese enfoque no solo para la IA generativa, sino también para la IA de bajo costo. Para todo tipo de IA y análisisy el uso de datos en el banco en general. Además de tener una política de gestión de riesgos de IA, Scotiabank tiene una política de ética de datos y un equipo de ética de datos para impulsarla. La política ahora es parte del código de conducta del banco, que todos los empleados deben certificar su aceptación cada año. El enfoque de ética de datos también ganó un premio otorgar por ese trabajo en los Premios a la Innovación Bancaria Qorus-Accenture (vale, una medalla de bronce, pero fue entre más de 680 participantes del sector bancario).

Para identificar problemas éticos de la IA en una etapa temprana del desarrollo de casos de uso, Scotiabank Trabajó con Deloitte Canadá para desarrollar el Asistente de Éticauna aplicación que evalúa el impacto ético de un caso de uso de IA antes de implementarlo por completo. La ejecución del asistente es el primer paso para todos los nuevos proyectos de IA y aprendizaje automático en el banco. Si descubre problemas éticos, el caso de uso se encuentra en una etapa lo suficientemente temprana como para cambiar el diseño.

Además, el banco desarrolló un programa obligatorio de educación en ética de datos para todos aquellos que trabajan en la organización de análisis, datos e información de clientes o que realizan trabajos de análisis avanzados en otras áreas del banco. Todos estos enfoques éticos en conjunto fueron lo suficientemente distintivos para que Scotiabank se destacara de otras organizaciones financieras y ganara el premio de inteligencia artificial responsable de DataIQ.

Cuando describimos a Scotiabank en nuestra columna de 2021, describimos a un banco que está intentando ponerse al día con respecto a sus competidores. Ahora parece estar a la cabeza en muchos aspectos. La amplitud de sus actividades y la participación en la IA en toda la organización son un buen augurio para su futuro.