FdA #53 - Las Vacas Esféricas de los Algoritmos: IA, Simplificación y Sesgos
Sobre cómo la IA puede convertirse en una vaca esférica cuando ignoramos la complejidad del comportamiento humano y social.
"Para todo problema complejo hay una solución simple y equivocada." - H.L. Mencken
La cita sobre los peligros de simplificar en exceso problemas complejos, especialmente en el contexto de la inteligencia artificial y los modelos predictivos.
Ilustra cómo las simplificaciones excesivas pueden llevar a modelos que pierden contacto con la realidad y producen resultados erróneos o sesgados cuando se aplican a situaciones del mundo real.
Mmmuuucho cuidado con simplificar
Imagina que quieres desarrollar un juego de conducción de vehículos, estilo simulación. Tienes que modelar cómo se comporta un vehículo concreto a diferentes tipos de terreno como asfalto, barro, arena, etc. También debes tener en cuenta cómo interacciona el terreno con las ruedas, con la suspensión y con el propio peso del vehículo.
Todo esto se te atraganta y decides asumir que el vehículo que vas a simular es una esfera perfecta y lisa y que el terreno es completamente plano. Con esta simplificación es mucho más fácil hacer los cálculos de movimiento del vehículo y, aunque este modelo puede darte una idea aproximada de cómo se comportaría el automóvil, es probable que falle en situaciones reales, donde los coches ni son esféricos ni el terreno es siempre plano.
Esta es una analogía de la metáfora de la vaca esférica. Se usa en ciencia para hacer coña cuando un enfoque se ha simplificado de forma irrealista en la modelización de un problema complejo. Se dice que el origen de la broma está en la historieta de un grupo de físicos teóricos a los que se contrató para mejorar la producción de leche en una granja y, tras estudiar el problema, su propuesta de solución empezaba por “Imagina una vaca esférica en el vacío…”.
Si simplificamos demasiado un problema el modelo puede perder contacto con la realidad y perder así cualquier utilidad práctica.
Aunque una vaca esférica en el vacío podría ser la solución teórica ideal para optimizar la producción de leche de la granja, jamás se podría aplicar en el mundo real.
Los modelos y algoritmos de inteligencia artificial a menudo simplifican la realidad para poder hacer predicciones o tomar decisiones. Estos modelos abstraen y simplifican muchos detalles del mundo real para que sean manejables a nivel computacional, y eso puede generar varias vacas esféricas cuando se abusa de la simplificación.
Las vacas esféricas de la IA
Durante la simplificación de datos complejos suele ser necesario hacer una limpieza y transformación de los mismos para que puedan ser utilizados. En este proceso, muchos detalles se omiten o se abstraen, por ejemplo cuando se usan variables categóricas o numéricas para representar el comportamiento humano o las emociones.
El sistema COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) es una herramienta de evaluación de riesgo utilizada en el sistema judicial de Estados Unidos para predecir la probabilidad de que una persona cometa un delito en el futuro. Se usa sobretodo en tribunales para ayudar a los jueces a tomar decisiones. Este sistema ha sido acusado de simplificar demasiado la complejidad del comportamiento humano y del contexto social.
Algunos algoritmos, como los de aprendizaje supervisado, pueden hacer suposiciones demasiado simplificadas sobre los datos. Es el caso de las regresiones lineales, que de ser aplicadas cuando no toca (entre variables que no tienen una relación lineal), pueden aparentar ser una aproximación a la realidad sin estar realmente reflejándola. En COMPAS se ha clasificado a las personas en categorías de riesgo “alto” o “bajo”, dejando fuera multitud de matices entre ambas categorías.
Al crear un modelo de IA los datos utilizados pueden no representar de forma adecuada la diversidad del mundo real. Es lo que llamamos el sesgo de los datos, y puede llevar a resultados inexactos o sesgados. En la herramienta COMPAS algunos análisis apuntan a que ha tenido una tendencia a sobrestimar la reincidencia en acusados afroamericanos y a subestimarla en el caso de acusados blancos.
Además, algunos de estos algoritmos de IA están hechos para hacer una generalización a partir de los datos de entrenamiento. Esto implica que muchas veces se ignoran casos excepcionales que podrían ser relevantes. En el caso de COMPAS, se tienen en cuenta factores como los antecedentes penales, la edad y las respuestas a un cuestionario, pero no se han tenido en cuenta variables contextuales de cada caso como factores socioeconómicos, que pueden influir en el comportamiento criminal.
Si simplificamos demasiado un modelo de IA probablemente nos llevará a errores en escenarios reales. Quizá funcionen bien en un entorno controlado, pero tan buen punto se enfrentan a la complejidad del mundo real caen de bruces. Por ejemplo en un sistema de reconocimiento facial, que puede funcionar muy bien en condiciones lumínicas ideales pero tener muchas dificultades si no hay una buena iluminación o un ángulo favorable. COMPAS también es un ejemplo excelente de esto, donde algunos jueces han usado las puntuaciones del sistema para determinar sentencias o libertad condicional.
A día de hoy no podemos tomar decisiones solo con los datos que arroja una IA. Puede sernos de mucha ayuda para guiar el camino, pero no podemos basar nuestras decisiones en sus resultados únicamente, hay que picar piedra para llegar donde la IA no puede, y más si cabe en un contexto donde la vida de otras personas está en juego.
Recomendaciones de la Semana
📖 Lecturas
En un mundo saturado de desinformación, abordar la verdad se vuelve crucial. En lugar de imponer mandamientos absolutos, es más útil considerar sugerencias flexibles que reflejen la complejidad de la realidad. Aquí tienes cinco sugerencias para navegar en esta era de incertidumbre.
Si prefieres resumen, aquí un hilo de X.
🎥 Película
Beau Tiene Miedo. Locurón de peli. La sinopsis de FilmAffinity nos dice que Beau es un hombre que tendrá que enfrentarse a sus miedos y paranoias al aventurarse en una épica odisea para llegar a casa de su controladora madre.
Sublime Joaquin Phoenix, como siempre.