A IA amplifica a inteligência, e também a mediocridade

No fim de semana, um menino do terceiro ano do ensino médio me fez várias perguntas sobre IA: quanto ela influencia a minha vida, se eu acho que ela é perigosa, se vai substituir empregos, se estamos avançando rápido demais e o que aconteceria se um dia chegássemos a uma superinteligência.

E enquanto eu respondia, uma coisa ficou martelando: a gente fala muitíssimo do que “a IA vai fazer”, quase como se ela tivesse aparecido sozinha.

Mas fomos nós que a fizemos. Fomos nós que a treinamos. E, além disso, treinamos com conhecimento humano, vieses humanos, contradições humanas e uma quantidade nada desprezível de besteiras humanas.

Basicamente, fizemos uma máquina que aprendeu com a internet e continua aprendendo. O que poderia dar errado?

(Quando algum LLM me falar em “farmar aura”, vamos saber que é o começo do fim kkkk)

Por isso me assustam bem mais os humanos usando mal a IA do que uma IA decidindo espontaneamente virar do mal.

Uma decisão ruim antes podia afetar cem pessoas. Agora você pode automatizá-la e errar com milhões. A IA pode amplificar a inteligência, mas também pode amplificar a mediocridade com uma eficiência tremenda.

Com o trabalho acontece algo parecido. Não acho que vai ser sempre “humano vs. IA”. Muitas vezes vai ser alguém trabalhando com IA versus alguém fazendo exatamente o mesmo que fazia cinco anos atrás. Eu mesma tenho trabalhos que antes me tomavam três semanas e hoje consigo resolver em três horas.

Agora, se usarmos essas três horas para fabricar 20 PowerPoints onde antes fazíamos quatro, também não sei se estamos aproveitando muito bem a revolução.

Talvez por isso eu me interesse cada vez menos em aprender “truques de prompt” e cada vez mais em aprender a questionar o que a IA me entrega. Porque já sabemos que ela pode estar completamente errada e soar extraordinariamente convincente. Ela mente na cara dura e, para ser justa, às vezes a gente escolhe acreditar.

E sim, a tecnologia pode ficar muitíssimo mais poderosa e, com ela, algumas pessoas também, para o bem ou para o mal.