O uso de sistemas automatizados para decisões como concessão de crédito, priorização médica e seleção de candidatos levanta questões sobre a ética dos algoritmos, que muitas vezes são feitas tardiamente e de forma inadequada. A crítica central é que algoritmos não decidem, mas sim calculam, e a responsabilidade por falhas nesses sistemas não é clara.
A discussão deve se expandir para incluir uma governança multicamadas que aborde quem decide, com base em quais evidências, e quem é responsabilizado por erros. Enquanto a ética questiona o que deveria ser feito, a governança se preocupa com a implementação e monitoramento de decisões.
Transformar princípios éticos em mecanismos operacionais e auditáveis é um desafio, que deve dialogar com estudos contemporâneos sobre inteligência artificial. A necessidade de estruturas de governança que integrem ética e inovação é urgente, uma vez que a regulação bem desenhada pode promover competição saudável e proteger consumidores.
Dados recentes indicam um aumento significativo em incidentes relacionados à inteligência artificial, com mais de quinhentos casos mensais registrados. Além disso, a concentração de desenvolvedores em poucos países e a falta de padrões claros para a documentação de sistemas de IA revelam fragilidades na governança atual.
Apesar do aumento de diretrizes éticas, os incidentes de discriminação e opacidade nas decisões continuam a ocorrer, levantando a questão de por que princípios corretos não têm sido suficientes para evitar resultados inadequados. A convergência em torno de princípios como transparência e responsabilidade é evidente, mas a divergência na aplicação desses princípios persiste.
