Em artigo publicado no Jornal da USP, a coordenadora acadêmica do Centro de Estudos Avançados do Direito e Inovação da Faculdade de Direito de Ribeirão Preto da USP, Paola Cantarini, defende a criação de mecanismos de verificação independente para sistemas de inteligência artificial (IA), inspirados na figura do gatekeeper do direito societário.
Cantarini traça um paralelo entre os escândalos financeiros como Enron e a necessidade de auditores independentes, e os riscos atuais da IA. Ela argumenta que a autoatestação dos desenvolvedores — quando a própria empresa afirma que seu sistema é justo e seguro — é estruturalmente insuficiente, repetindo erros do passado.
“A autoatestação do desenvolvedor, a afirmação, pela própria empresa que construiu o sistema, de que ele é justo, seguro e conforme, é o exato equivalente da diretoria que certifica as próprias contas, e a história já provou, à custa de Enron, WorldCom, Wirecard e da crise de 2008, que essa autoatestação é estruturalmente insuficiente”, escreve.
A professora cita exemplos internacionais, como o AI Act europeu, que prevê avaliação de conformidade e de impacto sobre direitos fundamentais, e a norma ISO/IEC 42001, que abre caminho para certificação por terceira parte. No Brasil, a Resolução CMN 4.557/2017 já exige validação independente de modelos de risco em instituições financeiras.
No entanto, Cantarini alerta para os riscos de captura dos auditores, como ocorreu no mercado financeiro. Ela cita o pesquisador John Coffee, que mostrou como os “guardiões corporativos” falharam por estarem financeiramente ligados às empresas que deveriam fiscalizar. “Transposto para a IA, o risco é exato: os asseguradores ditos independentes podem converter-se em meros carimbadores de relatórios de impacto encomendados pelas próprias big techs”, afirma.
A especialista também ressalta que a conformidade não elimina riscos e que a verificação precisa ser contínua, não um ato único. “Uma avaliação de impacto feita uma só vez, no momento da homologação, é um retrato que envelhece, pois o sistema implantado deriva”, conclui.
