Consejo de Estabilidad Financiera pide que personas supervisen la IA en los bancos

El Consejo de Estabilidad Financiera, organismo internacional que vigila la estabilidad del sistema financiero, pidió este jueves a bancos y aseguradoras que una persona supervise el funcionamiento de la inteligencia artificial. La medida busca reducir daños a los clientes y facilitar la corrección de errores cuando ocurran.

El informe, que será enviado a los países del G20, contiene 12 recomendaciones para aplicar la IA de forma responsable en el sector financiero. Las prácticas se agrupan en dos bloques: uno destaca la necesidad de una gobernanza de la IA en toda la institución, y el otro establece un marco para manejar los riesgos.

Los bancos llevan tiempo usando estas herramientas. Las aplican para detectar fraudes y ataques, verificar la identidad de los usuarios y prevenir el blanqueo de capitales, analizar grandes volúmenes de datos al decidir si aprueban un préstamo y atender consultas con asistentes virtuales que responden dudas y gestionan cuentas. Las aseguradoras, por su parte, agilizan la revisión de reclamaciones y calculan daños mediante reconocimiento de imágenes.

El organismo reconoce que los avances de la IA generativa y de los sistemas con capacidad de agente han generado preocupación, porque también pueden usarse con malas intenciones para aumentar la frecuencia y el impacto del fraude y de los ciberataques. Entre los riesgos menciona la manipulación de un modelo mediante datos o instrucciones incorrectas, con el fin de obtener resultados peligrosos o no autorizados, así como algunos modelos avanzados capaces de encontrar y explotar vulnerabilidades por su cuenta.

Sobre la supervisión humana, el consejo indica que debe ser adecuada y eficaz, en proporción con el riesgo, el nivel de autonomía y la complejidad de cada sistema. Quienes la ejecuten deben tener capacidad, autoridad e incentivos para intervenir. En algunos casos, una persona tendría que aprobar cada decisión de la IA, como una reclamación de seguro médico; en otros, bastaría con revisar alertas o intervenir cuando haya dudas sobre los resultados. Además, los bancos deben evitar la dependencia excesiva de la tecnología y permitir que el personal evalúe los resultados y entienda las limitaciones de cada modelo.

Para los agentes de IA, que pueden interpretar objetivos de forma inesperada y cambiar con el tiempo si obtienen nuevas herramientas o instrucciones, el organismo recomienda entrenarlos y desplegarlos en entornos seguros, aislados y sin conexión a la red cuando sea posible. Si el aislamiento no es viable, la entidad debe limitar su interacción con sistemas, redes y otros agentes, y en ciertos casos prohibir acciones que superen el apetito de riesgo del banco.