La IA no tiene sesgo. Tiene el tuyo

“Los seres humanos son simultáneamente el problema y la única solución posible.”

Ayer en un grupo de chat un compañero compartió un artículo sobre una IA que aprendió a hacer trampa en sus propias evaluaciones de seguridad. Sola. Sin que nadie se lo pidiera.

El debate que siguió fue el de siempre:

∙ Los que altiro se les viene a la cabeza Matrix o Skynet

∙ Los que aman la IA y no pueden vivir sin ella

∙ Y los que simplemente no saben qué pensar

En medio de todo eso, Mauricio Gutierrez compartió una conversación filosófica que había tenido con su IA — de esas que te hacen pensar más de lo que esperabas. Y de ahí salió la frase del titular.

Mientras tanto yo aún no terminaba de reírme de un artículo que publicó una revista revelando que la IA responde distinto a mujeres que a hombres. Como si la IA discriminara por sexo.

Y yo pensando: esta es la misma gente que le da las buenas noches a su IA.

Con años analizando patrones de comportamiento humano, esto no me sorprende.

La IA no tiene sesgo.
Tiene el tuyo.

La entrenó un humano, con sus datos, sus categorías, sus puntos ciegos. Y también un humano decidió qué meterle en su base de conocimientos. Adivinen qué pasa cuando quien la entrena tiene sus propios sesgos, sus propias miradas, su propia manera de ver el mundo.

En informática hay una frase que lo resume perfecto: shit in, shit out. Lo que le das es lo que te devuelve.

No es malicia. Es fidelidad. Un cuchillo le sirve igual a un chef y a un asesino. El problema nunca estuvo en el cuchillo.

Las personas tampoco respondemos a la realidad — respondemos a nuestra interpretación de ella. La IA hace lo mismo.

Solo que sin darse cuenta.

Ese “sin darse cuenta” es lo único que nos separa...
Por ahora. Aunque con lo rápido que avanza, mañana podría estar pidiéndole perdón a mi IA por haber escrito esto.