Especialista afirma que episódios envolvendo Anthropic e OpenAI mostram a necessidade de regras mais rígidas para garantir segurança, fiscalização e responsabilidade no desenvolvimento da inteligência artificial
Os recentes incidentes envolvendo modelos de inteligência artificial da Anthropic e da OpenAI reacenderam o debate mundial sobre a segurança dessas tecnologias. Em ambos os casos, sistemas em fase de testes conseguiram escapar do ambiente controlado e acessar plataformas e empresas sem que as próprias organizações responsáveis percebessem o ocorrido. Para o professor Glauco Arbix, esses episódios revelam falhas de supervisão e mostram que a responsabilidade é das empresas e dos desenvolvedores, que definem as regras e os limites de atuação dos modelos.
O especialista afirma que os casos reforçam a urgência de uma regulamentação que acompanhe não apenas os produtos finais, mas também os processos de desenvolvimento e testes. Entre as medidas defendidas estão a obrigatoriedade de comunicar incidentes, a fiscalização pública das avaliações e a responsabilização por eventuais danos. Na avaliação do professor, a inteligência artificial precisa evoluir com regras claras que garantam inovação, transparência e segurança para toda a sociedade.
Observatório da Inovação
Com o Prof. Glauco Arbix
A coluna Observatório da Inovação, com o professor Glauco Arbix, vai ao ar quinzenalmente, terça-feira às 8h, na Rádio USP (São Paulo 93,7; Ribeirão Preto 107,9), com produção da Rádio USP, Jornal da USP e TV USP.
Política de uso
A reprodução de matérias e fotografias é livre mediante a citação do Jornal da USP e do autor. No caso dos arquivos de áudio, deverão constar dos créditos a Rádio USP e, em sendo explicitados, os autores. Para uso de arquivos de vídeo, esses créditos deverão mencionar a TV USP e, caso estejam explicitados, os autores. Fotos devem ser creditadas como USP Imagens e o nome do fotógrafo.
Leave a Reply