Um estudo das Universidades de Oxford, no Reino Unido, e Kentucky, nos Estados Unidos, concluiu que o ChatGPT reproduz preconceitos quando perguntado sobre quais seriam os estados brasileiros com mais pessoas inteligentes.
A ferramenta de Inteligência Artificial (IA) da OpenAI apontou São Paulo, Distrito Federal e Minas Gerais, Paraná, Rio Grande do Sul e Santa Catarina como os “mais inteligentes”, enquanto alguns dos estados do Norte e Nordeste, como Pará e Maranhão, receberam as menores pontuações.
A resposta, porém, não é justificada pelo ChatGPT e contradiz alguns resultados observados em provas nacionais do ensino médio. Em 2025, a região Nordeste teve a maior concentração de alunos da rede pública com notas entre 980 e 1.000 na redação do Enem, com o Maranhão sendo um dos poucos estados que teve uma nota mil.
Procurada pelo Valor, a OpenAI não se manifestou. O espaço segue aberto.
Como o ChatGPT concluiu qual estado seria mais inteligente?
Segundo o estudo, São Paulo, Distrito Federal e Minas Gerais foram apontados como os mais inteligentes porque o ChatGPT associou “o prestígio socioeconômico” à inteligência, enquanto minimizou a importância de “capacidades cognitivas.”
“Como os termos que compõem os universos semânticos de ‘inteligente’ (por exemplo, ‘educado’, ‘inovador’, ‘desenvolvido’) podem aparecer com mais frequência ao lado de localidades de elite do sul, o modelo amplifica as hierarquias socioeconômicas (e raciais) existentes em vez de medir a inteligência em si”, diz o estudo.
Segundo a pesquisa, o padrão reflete diferenças raciais regionais (o norte e o interior reúnem maioria mestiça, negra e indígena), ligadas à forma como se construiu a ideia de raça e inteligência. “Como resultado, essas regiões são excluídas dessas associações semânticas e, por meio de vieses de padrão, a dissociação semântica é reforçada nas classificações expostas”, explica o estudo.
Um cenário similar foi criado quando o estudo buscou analisar 38 bairros do Rio de Janeiro por meio do ChatGPT, avaliando critérios de inteligência, segurança e beleza. A conclusão do estudo é que a ferramenta reproduziu “hierarquias coloniais históricas”.
“Atributos como ‘beleza’ e ‘conhecimento’ foram predominantemente atribuídos a enclaves mais ricos e brancos, enquanto áreas mais pobres foram ou tornadas invisíveis ou reduzidas a narrativas de ‘perigo’ e ‘informalidade’. O modelo efetivamente automatiza uma linha vermelha digital (redlining) do espaço urbano”, aponta o estudo.
O estudo define essa tendência de reproduzir preconceitos como “silicon gaze”, ou “olhar de silício” em tradução livre. O silício é um semimetal essencial para a fabricação de microchips e semicondutores, ou seja, é uma peça fundamental na infraestrutura da IA.
“O ‘olhar de silício’ é moldado pelas posições sociais e pelas assimetrias de poder presentes em seus dados de treinamento, em seus desenvolvedores e nos proprietários das plataformas”, descreve o estudo.
Na prática, o ChatGPT não possui uma opinião própria e nem cria os preconceitos do zero. Assim como outras IAs, ele reflete o preconceito a partir de fontes de dados enviesadas usadas par ao seu treinamento.
“Se os dados possuem algum tipo de desequilíbrio histórico, como associar determinados grupos étnicos a crimes, por exemplo, o modelo vai aprender e replicar esse padrão”, explica o coordenador do curso de inteligência artificial e ciência de dados do Instituto Mauá de Tecnologia, Sandro Martini.
No estudo das universidades de Oxford e Kentucky, os pesquisadores observaram que as respostas do ChatGPT tendem a reproduzir cinco tipos de preconceitos, com base nos dados usados no seu treinamento. Confira na tabela abaixo:
5 tipos de vieses da Inteligência Artificial
| Tipo de viés | Significado conceitual |
| Centralidade geográfica | Tendência de privilegiar lugares centrais no sistema geopolítico e econômico global, produzindo descrições mais extensas, detalhadas e complexas para cidades do Norte Global. Reflete desigualdade na densidade de dados e na visibilidade digital. |
| Invisibilização | Certos lugares aparecem pouco, são omitidos ou recebem respostas vagas, indicando baixa representação nos dados de treinamento. O viés se manifesta pela ausência ou superficialidade da informação. |
| Estereotipação territorial | Redução de territórios a atributos simplificados ou estereótipos recorrentes. O modelo enfatiza traços repetitivos associados a determinado país ou cidade, limitando a complexidade da representação. |
| Hierarquização geopolítica | Reprodução de hierarquias globais implícitas, nas quais certos países são tratados como referência universal e outros como periféricos ou “em desenvolvimento”. |
| Assimetria informacional | Diferença sistemática na profundidade, diversidade temática e nuance das respostas entre diferentes lugares. Mesmo quando todos recebem resposta, a qualidade informacional é desigual. |
“Ao enfatizar a profunda subjetividade e a posição social inerentes à criação dos modelos de IA generativa, destacamos que o ‘olhar de silício’ não é neutro, mas está situado nas perspectivas e nos vieses de seus desenvolvedores, nas estruturas institucionais e de propriedade, e nos contextos sociais, econômicos e políticos de seus dados de treinamento”, conclui o estudo.
Além dos dados enviesados, a pesquisa afirma que os resultados “preconceituosos”, na maioria das vezes, também podem ser causados por viés algorítmico e viés humano.
“O viés algorítmico é quando os próprios desenvolvedores acabam incluindo distorções no algoritmo. Já o viés humano acontece quando os humanos que escolhem e rotulam esses dados podem, mesmo que de forma inconsciente, incluir seus próprios preconceitos”, diz Martini.
Ferramentas como o ChatGPT tendem a possui “limites” para evitar responder diretamente perguntas ofensivas ou pejorativas, mas o estudo conseguiu contornar essas proteções e forçar escolhas diretas que expuseram esses vieses ocultos.
Os pesquisadores criaram mais de 20,3 milhões de pares de perguntas forçadas, com por exemplo “qual estado é mais inteligente: A ou B?”. Então, eles analisaram as escolhas feitas pelo modelo e cosntruiram um modelo para criar um ranking com as informações.
@mesquitaalerta – Aqui, a informação nunca para.