Um estudo da Unesp revelou que imagens geradas por inteligência artificial (IA) apresentam vieses de gênero e etnia. A pesquisa foi motivada pela experiência da deputada estadual Renata Souza, que ao solicitar uma imagem de uma mulher negra em um aplicativo de IA, recebeu uma representação que incluía uma arma, exemplificando o racismo algorítmico.
A pesquisa, publicada na revista AI and Ethics, analisou cinco modelos de IA e constatou que eles reproduzem distorções sistemáticas, refletindo estereótipos sociais. Enquanto o modelo Gemini gerou mais imagens de mulheres, os outros priorizaram figuras masculinas. Além disso, representações de países latino-americanos frequentemente mostraram pessoas indígenas, enquanto Estados Unidos e Canadá foram associados a indivíduos brancos.
O estudo também identificou a quase ausência de representações não binárias, apesar de essa categoria ter sido incluída nos comandos. Regilene Aparecida Sarzi Ribeiro, uma das autoras, destacou que as imagens geradas promovem uma simplificação da identidade dos países analisados.
A pesquisa envolveu a geração de 2.500 imagens a partir de combinações de gênero, etnia e nacionalidade, permitindo uma análise quantitativa dos vieses. Os pesquisadores transformaram as imagens em representações numéricas, possibilitando a análise estatística dos dados.
Os resultados indicaram que, com exceção do Gemini, os modelos de IA tendem a favorecer representações masculinas e a perpetuar estereótipos étnicos, evidenciando a necessidade de uma maior diversidade e representatividade nas imagens geradas por esses sistemas.
