Recientemente, el Consejo de Estabilidad Financiera (FSB, por sus siglas en inglés) instó a bancos y aseguradoras a mantener una supervisión humana efectiva sobre los sistemas de inteligencia artificial (IA).
Resulta que el organismo internacional que persigue la eficacia y estabilidad del sistema financiero en el mundo, alertó por posibles riesgos de fraudes, errores graves, ciberataques y decisiones inesperadas que podrían comprometer la estabilidad del sistema financiero global.
Piden que humanos supervicen IA en bancos
De acuerdo a EFE, la recomendación forma parte de un informe que el organismo enviará a los países del G20 y que contempla 12 buenas prácticas para implementar esta tecnología de manera responsable en el sector financiero.
Aunque la IA lleva años presente en la industria, sus avances recientes han generado nuevas preocupaciones. Las entidades financieras la utilizan para detectar operaciones fraudulentas, prevenir el blanqueo de capitales, verificar identidades, evaluar solicitudes de crédito y atender clientes mediante asistentes virtuales.
Las aseguradoras, en tanto, recurren a estos sistemas para revisar reclamaciones y calcular daños a partir de imágenes.
Sin embargo, el FSB advierte que la tecnología también puede ser utilizada con fines maliciosos. Entre los riesgos se encuentran los ataques destinados a manipular los datos o las instrucciones que reciben los modelos, con el objetivo de provocar resultados peligrosos, ilegales o no autorizados.
A esto se suma la capacidad de algunos sistemas avanzados para identificar y explotar vulnerabilidades de forma autónoma, aumentando potencialmente el alcance de los ataques informáticos.
El factor humano ante decisiones inesperadas
Frente a este escenario, el organismo sostiene que la supervisión humana permite mejorar la toma de decisiones, prevenir daños y facilitar la reparación cuando se producen errores.
Para ello, quienes supervisen estos sistemas deben contar con conocimientos, autoridad e incentivos suficientes para intervenir. Además, los trabajadores deben comprender las capacidades y limitaciones de la IA, evitando una dependencia excesiva de sus resultados.
El nivel de intervención dependerá del riesgo. Algunas decisiones, como aprobar determinadas reclamaciones de seguros, podrían requerir autorización humana, mientras que otras necesitarán supervisión de alertas o intervención cuando existan dudas sobre los resultados.
La advertencia adquiere especial relevancia ante los agentes de IA capaces de ejecutar acciones autónomas. Según el FSB, estos sistemas pueden interpretar objetivos de maneras inesperadas y modificar su comportamiento cuando reciben nuevas instrucciones o acceden a otras herramientas.
Enviando corrección, espere un momento...
