Alguém abre uma aba de inteligência artificial e digita: “Quais foram as maiores contribuições culturais da humanidade?” Em piscar de olhos, a tela se enche de respostas: a filosofia da Grécia Antiga, a arte do Renascimento italiano, a razão do Iluminismo francês, a força da Revolução Industrial inglesa e a inovação do Vale do Silício.
Não há nada de errado com essa lista. Tudo isso transformou o mundo. Mas a verdadeira questão — aquela que quase nunca nos fazemos — é: onde foram parar os grandes impérios africanos? Onde estão os pensadores da tradição oral da África? E os conhecimentos milenares dos povos indígenas sobre biodiversidade e cura? Onde ficaram as mentes asiáticas que revolucionaram a matemática e a navegação muito antes da ciência moderna como a conhecemos?
Essa ausência sutil acende o alerta para um dos debates mais urgentes da nossa era digital: o racismo invisível que mora dentro dos algoritmos.
Além dos comentários de ódio
Durante muito tempo, quando falávamos de racismo na internet, a imagem que vinha à mente era imediata: ataques em redes sociais, discursos de ódio e linchamentos virtuais. Infelizmente, a internet sempre foi um espelho das dores do mundo real.
O grande desafio atual não está apenas no preconceito gerado por pessoas, mas na estrutura das máquinas que organizam, filtram e entregam o conhecimento para bilhões de seres humanos diariamente.
A inteligência artificial não tem consciência. Ela não sente raiva, não tem ideologia e não odeia ninguém. O “X” da questão é que ela aprende observando a montanha de dados produzida por nós, humanos. E é aí que a engrenagem falha. Se os dados históricos disponíveis na internet carregam séculos de desigualdades e apagamentos, a máquina vai, inevitavelmente, absorver esse viés.
É como criar uma criança em uma biblioteca onde 90% dos livros contam exatamente a mesma versão da história. Ela não inventou aquele ponto de vista; ela apenas vai crescer acreditando que aquela é a única realidade possível.
A ilusão da neutralidade cultural
Esse comportamento já foi mapeado pela ciência. Um estudo marcante da revista Nature Human Behaviour comprovou que os grandes modelos de linguagem têm “personalidades” culturais muito bem definidas: eles tendem a reproduzir os valores e as perspectivas das sociedades ocidentais, especialmente as de língua inglesa. Ou seja, as IAs passam longe de ser neutras; elas carregam o sotaque e o olhar do lugar onde foram alimentadas.
O perigo desse fenômeno é que ele é quase imperceptível. A IA nunca vai te dizer que a cultura africana ou indígena importa menos que a europeia. Ela apenas entrega páginas e páginas de detalhes sobre uma, e apenas dois parágrafos superficiais sobre a outra.
A princípio, parece um detalhe bobo. Mas quando você multiplica essa pequena omissão por bilhões de buscas diárias, o que temos é um poderoso mecanismo invisível moldando o que a humanidade considera importante. É o que os especialistas chamam de viés algorítmico cultural.
E o problema não é só a quantidade, mas a qualidade da informação:
- Culturas não ocidentais frequentemente aparecem sob uma ótica exótica, folclórica ou ligada ao passado.
- Culturas europeias e norte-americanas são apresentadas como as donas do futuro, da ciência, da tecnologia e do progresso.
Essa assimetria sutil dita quem fica no palco principal e quem é empurrado para os bastidores do imaginário digital. Não à toa, muitos cientistas já usam um termo forte: colonialismo digital.
A história se repete no código
No passado, impérios usavam a força militar para impor suas línguas e apagar as narrativas dos povos dominados. Hoje, o processo é tecnológico. A hegemonia dos dados produzidos por países ricos e conectados acaba definindo o que merece ou não ser lembrado pelas máquinas. É uma centralização perigosa da memória do mundo.
Esse filme não é novo. Em 2018, a pesquisadora Joy Buolamwini, do MIT Media Lab, chocou o mundo com o estudo Gender Shades. Ao testar softwares de reconhecimento facial de grandes empresas, ela descobriu que o sistema acertava o gênero de homens brancos quase perfeitamente. Mas, na hora de identificar mulheres negras, a taxa de erro passava dos 34%. O motivo? O banco de dados usado para treinar o sistema era inundado de rostos brancos.
A IA não inventou o preconceito; ela apenas escancaram o preconceito dos dados que fornecemos a ela. E o mesmo acontece com a nossa bagagem cultural.
O grande risco do século XXI
Estamos vivendo uma virada de chave histórica. Pela primeira vez, a humanidade está trocando as pesquisas tradicionais por assistentes de IA que resumem, mastigam e interpretam o conhecimento por nós.
Se essas ferramentas continuarem ouvindo apenas as vozes que já são naturalmente mais altas, culturas inteiras correm o risco de desaparecer — não por censura ou proibição, mas por pura invisibilidade estatística.
O maior perigo da inteligência artificial não é que ela aprenda a nos odiar. O maior risco é que ela aprenda a nos ignorar. E, se olharmos para trás, ser esquecido pela história sempre foi tão violento quanto ser atacado por ela.
Por isso, humanizar a tecnologia vai muito além de moderar comentários ofensivos em redes sociais. Exige coragem para diversificar as fontes, incluir novas perspectivas no desenvolvimento dos códigos e construir sistemas que sejam capazes de refletir toda a riqueza e a complexidade da experiência humana. A promessa da IA sempre foi abrir as portas do conhecimento para todos. Mas uma tecnologia que só sabe escutar metade do mundo jamais conseguirá traduzir a humanidade inteira.
