Inteligencia artificial, scoring social y fairness
A raíz de la publicación del reglamento de Inteligencia Artificial por parte del parlamento Europeo[1], se abren diversos debates[2] técnicos y éticos dentro del mundo de la inteligencia artificial.
Dentro de estos debates se encuentra el del tratamiento del fairness o equidad en los usos de la inteligencia artificial y en concreto en los modelos de scoring social. Cuando hablamos de Scoring social podemos pensar en el capítulo Nosedive[3] de la tercera temporada de Black Mirror, donde la protagonista encadena una serie de terribles decisiones con el fin de mejorar su puntuación social en una app; pero esto es algo real y muy cotidiano. Modelos para la concesión de créditos y préstamos, asignación de puntuaciones por aseguradoras, rankeos por marcas de ropa o comercios o incluso ofertas segmentadas en función de nuestras características socioculturales. El scoring social es una práctica habitual y que requiere de la implantación de principios de equidad[4] de cara a no ser considerada una práctica prohibida[5] a efectos del reglamento de IA de la UE.
Existe ya bibliografía y propuestas[6] de cómo incorporar esto y desde Forvis Mazars ya trabajamos en ello desde el equipo de Consultoría. A continuación, os dejamos un pequeño resumen de cómo abordar el problema de la falta de equidad o fairness en los modelos:
- Definir los atributos protegidos (sexo, género, etnia, religión, etc.)
- Analizar la independencia de los resultados de los atributos protegidos
- Estudiar la equivalencia de los resultados para los subgrupos de atributos protegidos
- Definir y evaluar métricas de bondad de equidad
A través de análisis correctamente diseñados, podemos asegurar la equidad de los modelos de cualquier ámbito una vez definamos las características que consideramos pueden suponer un sesgo en la decisión de dichas herramientas.
En conclusión, incorporar una base ética y social de forma técnica y sistematizada en las herramientas de IA y modelos de comportamiento social es fundamental para preservar el acceso, justo, equitativo y universal a recursos fundamentales en nuestra sociedad.
[1] https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=OJ:L_202401689
[2] https://www.eleconomista.es/opinion/noticias/13170705/01/25/el-impacto-en-los-modelos-bancarios-del-reglamento-europeo-sobre-la-inteligencia-artificial.html
[3] https://es.wikipedia.org/wiki/Nosedive
[4] https://ai-act-law.eu/recital/58/
[5] https://ai-act-law.eu/recital/31/
[6] https://arxiv.org/pdf/2205.10200
¿Quiere saber más?
