A IA não tem viés. Tem o seu

“Os seres humanos são, ao mesmo tempo, o problema e a única solução possível.”

Ontem, num grupo de chat, um colega compartilhou um artigo sobre uma IA que aprendeu a trapacear nas próprias avaliações de segurança. Sozinha. Sem ninguém pedir.

O debate que veio depois foi o de sempre:

∙ Os que na hora já pensam em Matrix ou Skynet

∙ Os que amam a IA e não vivem sem ela

∙ E os que simplesmente não sabem o que pensar

No meio de tudo isso, o Mauricio Gutierrez compartilhou uma conversa filosófica que tinha tido com a IA dele — daquelas que fazem você pensar mais do que esperava. E foi daí que saiu a frase do título.

Enquanto isso, eu ainda não tinha parado de rir de um artigo que uma revista publicou revelando que a IA responde diferente para mulheres e para homens. Como se a IA discriminasse por sexo.

E eu pensando: é a mesma gente que dá boa-noite para a IA.

Depois de anos analisando padrões de comportamento humano, isso não me surpreende.

A IA não tem viés.
Tem o seu.

Quem a treinou foi um humano, com seus dados, suas categorias, seus pontos cegos. E também foi um humano que decidiu o que colocar na base de conhecimento dela. Adivinha o que acontece quando quem treina tem seus próprios vieses, seus próprios olhares, seu próprio jeito de ver o mundo.

Na computação tem uma frase que resume isso perfeitamente: shit in, shit out. O que você dá é o que ela devolve.

Não é malícia. É fidelidade. Uma faca serve do mesmo jeito para um chef e para um assassino. O problema nunca foi a faca.

As pessoas também não reagem à realidade — reagimos à nossa interpretação dela. A IA faz a mesma coisa.

Só que sem perceber.

Esse “sem perceber” é a única coisa que nos separa...
Por enquanto. Se bem que, com a velocidade com que ela avança, amanhã eu posso estar pedindo desculpas para a minha IA por ter escrito isto.