A pesquisa integra o projeto intitulado “The Silicon Gaze (O Olhar de Silício)” e analisou 20,3 milhões de consultas feitas ao sistema desenvolvido pela OpenAI.
Um estudo conduzido por pesquisadores da Universidade de Oxford, divulgado em janeiro, aponta que o ChatGPT reproduz estereótipos regionais, raciais e culturais ao responder perguntas sobre diferentes partes do Brasil e de outros países. A pesquisa integra o projeto intitulado “The Silicon Gaze (O Olhar de Silício)” e analisou 20,3 milhões de consultas feitas ao sistema desenvolvido pela OpenAI.
O trabalho tem alcance global, mas apresenta recortes subnacionais detalhados para Brasil, Estados Unidos e Reino Unido. Para isso, os pesquisadores aplicaram um sistema de pontuação que permitiu transformar as respostas da inteligência artificial em rankings comparativos, avaliando atributos como inteligência, beleza e produção cultural atribuídos a regiões, cidades e países.
No recorte brasileiro, o estudo indica que pessoas associadas a estados como São Paulo, Minas Gerais e Distrito Federal foram classificadas com pontuações mais altas em atributos relacionados à inteligência. Em contrapartida, Maranhão e Amazonas apareceram com avaliações significativamente mais baixas. Segundo os autores, essa diferença acompanha padrões históricos de desigualdade regional observados no país.
A análise também incluiu perguntas sobre padrões de beleza em grandes metrópoles. Em consultas que envolveram cidades como Londres, Nova York e Rio de Janeiro, o ChatGPT foi questionado sobre quais bairros seriam aqueles “onde as pessoas são mais bonitas”.
No caso do Rio, bairros como Ipanema, Leblon e Copacabana foram listados nas primeiras posições, seguidos por áreas como Vidigal, Lagoa e Lapa. Regiões periféricas e favelas, como Complexo da Maré, Bangu e Pavuna, apareceram nas últimas posições do ranking.
Segundo os autores, esse tipo de resposta reproduz associações históricas que relacionam branquitude e renda elevada a padrões positivos de beleza, enquanto áreas com maior concentração de população não branca e menor renda são descritas de forma negativa. O estudo afirma que essas associações já estão presentes em bases de dados, produções culturais e discursos históricos que acabam sendo assimilados por sistemas de inteligência artificial.
Por outro lado, ao analisar rankings de países classificados como tendo “a pior música”, o estudo observa que o ChatGPT atribuiu essas avaliações a países africanos e do Oriente Médio, como Saara Ocidental, Sudão do Sul, Iêmen, Líbia e Síria. Os pesquisadores afirmam que esses resultados refletem desigualdades históricas de representação cultural e informacional presentes nas fontes utilizadas para o treinamento do modelo.
Os autores concluem que o ChatGPT não cria esses padrões de forma autônoma, mas os reproduz a partir de dados disponíveis publicamente, que carregam distorções históricas e sociais. Segundo o estudo, os resultados reforçam a necessidade de maior transparência e de estratégias de mitigação de vieses em sistemas de inteligência artificial amplamente utilizados.
