Dios en la máquina


Rodrigo Vidaurre_ Casi literalEl sujeto ideal de la modernidad es aquel que no basa su criterio en opiniones subjetivas, sino en datos concretos. La supuesta objetividad e imparcialidad de los números se venden como un antídoto para la polarización y las fake news que nos rodean. A su vez, los diferentes actores públicos como gobiernos, oenegés y medios de comunicación buscan ganar credibilidad valiéndose del prestigio empírico del dato.

Es curioso que pensemos en los datos como inmunes al error humano cuando muchos de los sesgos cognitivos más comunes tienen que ver precisamente con cómo recopilamos y analizamos la información. La paradoja de Berkson, por ejemplo, es uno de los muchos tipos de sesgo muestral, los cuales pueden ir desde qué datos se excluyen de una muestra hasta cómo se agrupan y delimitan los mismos.

Incluso suponiendo una muestra de alta calidad, los problemas continúan a la hora de analizar la información. Las personas tenemos una alta tendencia a encontrar patrones donde no los hay (apofenia), a darle más peso a cierta información que a otra (anclaje), a buscar confirmar lo que ya creemos (sesgo de confirmación) y a subestimar la aleatoriedad del universo (pensamiento antropocéntrico/detección de agentes). Los datos que estamos viendo podrían ser reales, pero, debido a nuestros sesgos inconscientes, las conclusiones que derivamos de ellos no.

Pero más allá de los desafíos clásicos de la estadística, el problema más grande que afrontamos actualmente es la datificación, es decir, la creciente tendencia de volver todo medible y optimizable. El que algo como la felicidad o la inteligencia no se pueda medir —o siquiera conceptualizar fácilmente— no detiene a los apóstoles de la datificación de intentarlo. La forma como lo hacen suele ser mediante la construcción de indicadores que juntan variables que, a su criterio, modelan o abstraen algún aspecto de la realidad.

Un ejemplo claro es el infame Índice de Libertad Económica de la Fundación Heritage y el Wall Street Journal. El índice colapsa decenas de variables arbitrariamente elegidas y sopesadas en un solo número, el cual luego es usado por propagandistas para argumentar que «objetivamente» ciertas políticas funcionan mejor que otras. Al ver el ranking el lector atento podría hacerse las siguientes preguntas: ¿por qué la percepción de corrupción es considerada un indicador de libertad de mercado?, ¿qué pasa con los países pobres y corruptos cuando implementan políticas de liberalización económica?

Por la misma razón no es raro que un mal indicador genere incentivos perversos para maximizarlo, ignorando lo que originalmente se buscaba medir. Si, por ejemplo, se evalúa a un hospital en base al número de pacientes recuperados, esto crea un incentivo para no aceptar casos complicados. Similar al alumno que estudia únicamente para pasar el examen (algo común en las pruebas estandarizadas, que son otra forma de datificación). Muchas universidades producen resultados no con el fin de mejorar su calidad, sino de posicionarse en rankings como el de QS.

Si bien un indicador mal diseñado es un desastre, cuando menos uno transparente puede ser cuestionado y mejorado. Lamentablemente, la era del Big Data y la inteligencia artificial nos ha traído la caja negra: modelos de aprendizaje automático cuyos mecanismos son desconocidos incluso para quienes los diseñan. En su libro Armas de destrucción matemática, Cathy O’Neil nos muestra cómo estos modelos están siendo usados en sectores como educación y finanzas para decidir sobre la exclusión sistemática de miles de personas sin que nadie entienda por qué.

Ante la fe ciega que muchos ponen en estas tecnologías, O’Neil habla con precisión teológica sobre «la autoridad de lo inescrutable». Hubo un tiempo en el cual la verdad absoluta se consideraba el dominio de Dios y cuestionarla era visto como una herejía. Al mismo tiempo, aquellos que decían hablar «en nombre» de Dios amasaban grandes fortunas como vicarios de esa verdad. Si el algoritmo es el nuevo Dios, nos corresponde a nosotros, comenzando por los profesionales de datos, ser los nuevos herejes que cuestionen la infalibilidad de esta máquina divina.

Ver todas las publicaciones de Rodrigo Vidaurre en (Casi) literal

¿Cuánto te gustó este artículo?

Califícalo.

5 / 5. 4


Deja una respuesta

Tu dirección de correo electrónico no será publicada.

desplazarse a la parte superior