Las nuevas fuentes de datos y los algoritmos que les dan sentido son pilares importantes para muchos productos financieros en los mercados emergentes. Estos algoritmos también plantean nuevos riesgos relacionados con la discriminación y la ética, que no siempre son comprendidos, incluso por quienes los supervisan. Es necesario comprender mejor cómo podemos monitorear y abordar cuestiones éticas con algoritmos como la equidad y la discriminación.

Este seminario web, organizado por IPA, brindó la oportunidad de interactuar con voces líderes sobre el uso ético de los datos de los consumidores para servicios financieros y aprender de sus experiencias de primera mano en el trabajo en todo el mundo. Este seminario web fue el tercero en la IPA. Serie de foros para profesionales de protección al consumidor. 

Cathy O'Neil, New York Times reconocido autor de la Armas de Destrucción Matemática y director ejecutivo de O'Neil Risk Consulting & Algorithmic Auditing (ORCAA), presentó una visión general de su investigación sobre “armas de destrucción matemática”: algoritmos de caja negra que se utilizan con poca o ninguna responsabilidad en decisiones que afectan profundamente la vida de las personas, incluidos los servicios financieros. Cathy también presentó la matriz ética, un enfoque flexible para identificar y mitigar los daños que pueden surgir de estos algoritmos.

jacob appel, Estratega jefe de ORCAA, Luego profundicé en la cuestión de las variables proxy: datos aparentemente neutrales que contienen información sobre individuos que se supone que el modelador no debe conocer. Las variables proxy son la razón por la cual los enfoques simples ciegos al género o al color son insuficientes hoy en día. Luego, los panelistas discutieron algunos enfoques técnicos y políticos actuales para abordar estos temas.

Para situar estas cuestiones en el contexto de los servicios financieros, Malavika Raghavan, experta independiente en protección de datos en la financiación al consumo, habló sobre cómo los servicios financieros digitales pueden abordar los desafíos éticos y al mismo tiempo aumentar el acceso a los servicios financieros en poblaciones desatendidas.

Las presentaciones fueron seguidas por una sesión de preguntas y respuestas moderada por Rafe Mazer, director de la Iniciativa de Investigación sobre Protección al Consumidor de IPA.

Vea la grabación del seminario web a continuación:
 

Las panelistas

• Cathy O'Neil, Autor superventas del New York Times de Armas de Destrucción Matemática y director ejecutivo de O'Neil Risk Consulting & Algorithmic Auditing (ORCAA)
• jacob appel, Estratega jefe, ORCAA
• Malavika Raghavan, Experto Independiente en Protección de Datos en la Financiación al Consumo
• Rafe Mazer (Moderador), Director, Iniciativa de Investigación sobre Protección al Consumidor, IPA