A discussão sobre quem define os riscos da inteligência artificial (IA) revela uma dinâmica complexa entre as sociedades e suas estruturas sociais. Segundo a sociologia do risco, como apontam Mary Douglas e Aaron Wildavsky, os medos das sociedades não são escolhidos pela gravidade dos perigos, mas pela organização social que os envolve.
Os sistemas de IA são frequentemente avaliados por aqueles que os desenvolvem, o que gera uma autoavaliação que pode não refletir a realidade. A filósofa Miranda Fricker descreve essa situação como injustiça hermenêutica, onde grupos afetados não têm voz na definição dos riscos que enfrentam. Isso resulta na chamada colonialidade do registro, onde as categorias de risco são definidas por quem está no centro, enquanto as vozes da periferia são silenciadas.
Além disso, a colonialidade do risco também se manifesta na proteção contra esses perigos. A segurança dos sistemas algorítmicos é moldada por investimentos que seguem o mercado, o que pode deixar regiões menos favorecidas em desvantagem. Um exemplo disso é a discrepância na alocação de recursos do Facebook para a moderação de conteúdo, que favorece os Estados Unidos em detrimento de outras regiões.
O Brasil tem potencial para mudar essa realidade. Iniciativas como a Cátedra IA Responsável, em parceria com o Google, estão explorando novas formas de abordar os danos causados pela IA, focando em decisões judiciais em vez de apenas notícias. Essa abordagem pode ajudar a incluir a perspectiva do Sul global na governança da IA, não apenas como fonte de casos, mas também como coautora das categorias de risco.
Para isso, é fundamental que a verificação de riscos seja feita de forma independente e que a futura legislação sobre IA no Brasil considere a definição de incidentes como uma decisão política, garantindo que as vozes de todos os grupos sejam ouvidas e respeitadas.
