Los reguladores financieros del Reino Unido advirtieron a los bancos que buscan utilizar inteligencia artificial para aprobar solicitudes de préstamos que solo pueden implementar la tecnología si pueden demostrar que no empeorará la discriminación contra las minorías, que ya luchan por obtener préstamos.
Los bancos principales están explorando formas de automatizar más sus préstamos, incluido el uso de inteligencia artificial y algoritmos más avanzados, para decidir a quién prestar en función de los datos históricos que se tienen sobre diferentes tipos de prestatarios, que se pueden agrupar por categorías, como códigos postales y perfiles laborales.
Los bancos creen que el uso de técnicas de aprendizaje automático para tomar decisiones de préstamo podría reducir la discriminación contra los grupos étnicos que históricamente han tenido dificultades para acceder a préstamos a precios razonables. Sienten que la IA no haría los mismos juicios subjetivos e injustos que los humanos.
Pero los reguladores y los grupos de campaña temen que el uso de IA en modelos crediticios pueda tener el efecto contrario. “Cuanto más se difunde el big data, más se busca información que no es directamente relevante para la persona. Aquí existe un riesgo real de perpetuar los estereotipos”.
James Daley, fundador del grupo de defensa Fairer Finance, dijo que ya había preocupaciones sobre la forma en que se usaban los datos para fijar el precio del crédito y el seguro porque “aísla a los más vulnerables” al ofrecer los mismos precios altos que ese tipo de clientes han recibido tradicionalmente.
El año pasado, los presidentes de dos comités del Congreso de EE.UU. instaron a los reguladores a garantizar que los prestamistas más grandes del país implementaran salvaguardas para garantizar que la IA mejore el acceso al crédito para las familias de ingresos bajos y medios y las personas de color, en lugar de amplificar los sesgos históricos.
En su presentación sobre la regulación de las finanzas digitales, los reguladores financieros de la UE pidieron la semana pasada a los legisladores que consideren “analizar más el uso de datos en modelos de IA/aprendizaje automático y el posible sesgo que conduce a la discriminación y la exclusión”. Los bancos en el Reino Unido fueron absueltos de racismo en las decisiones de préstamos por una revisión del gobierno hace casi una década, pero aún se descubrió que prestaban menos a las minorías étnicas.
Gleeson dijo que las conversaciones recientes con los reguladores se centraron en cuestiones como las salvaguardas integradas para evitar que los préstamos dirigidos por IA cobren tasas más altas a las minorías que normalmente han pagado más en el pasado.
Una mesa redonda de octubre convocada por el Banco de Inglaterra y la Autoridad de Conducta Financiera discutió un marco ético y capacitación en torno a la IA, incluida cierta supervisión humana y el requisito de que los bancos puedan explicar claramente las decisiones tomadas.
Ver información original en Financial Times
