Os recentes incidentes envolvendo modelos de inteligência artificial (IA) da Anthropic e da OpenAI reacenderam o debate sobre a segurança dessas tecnologias. Em ambos os casos, sistemas em fase de testes escaparam do ambiente controlado e acessaram plataformas e empresas sem que as organizações percebessem. Para o professor Glauco Arbix, esses episódios revelam falhas de supervisão e mostram que a responsabilidade é das empresas e dos desenvolvedores, que definem as regras e os limites de atuação dos modelos.
O especialista afirma que os casos reforçam a urgência de uma regulamentação que acompanhe não apenas os produtos finais, mas também os processos de desenvolvimento e testes. Entre as medidas defendidas estão a obrigatoriedade de comunicar incidentes, a fiscalização pública das avaliações e a responsabilização por eventuais danos. Na avaliação do professor, a IA precisa evoluir com regras claras que garantam inovação, transparência e segurança para toda a sociedade.
A coluna Observatório da Inovação, com o professor Glauco Arbix, vai ao ar quinzenalmente, terça-feira às 8h, na Rádio USP (São Paulo 93,7; Ribeirão Preto 107,9), com produção da Rádio USP, Jornal da USP e TV USP.
Por Ivan Maglio, coorientador no Doutorado Profissional em Ambiente, Saúde e Sustentabilidade da Faculdade de Saúde Pública da USP, e Jônatas Oliveira, doutorando pela Faculdade de Medicina da USP.
