Mais de 1 000 funcionários de empresas líderes em inteligência artificial assinaram terça-feira uma petição que insta o governo dos Estados Unidos a tomar medidas para “controlar de forma deliberada” o ritmo do desenvolvimento da inteligência artificial.
PUBLICIDADE
PUBLICIDADE
Entre os signatários contam-se o diretor-executivo da Anthropic, o responsável pela investigação na OpenAI, o líder estratégico da DeepMind, a filial de IA da Google, e o cientista-chefe da Meta AI.
A petição (fonte em inglês) pede “que o governo dos Estados Unidos apoie um esforço internacional para desenvolver as ferramentas técnicas e de governação necessárias para controlar de forma deliberada a fronteira do desenvolvimento automatizado de IA”.
“As principais empresas mundiais de IA acreditam que poderão estar perto de automatizar a investigação em IA. É difícil prever exatamente até que ponto isso irá acelerar os progressos, mas existe um risco real de que o desenvolvimento de capacidades avance rapidamente para além da nossa capacidade de compreender ou controlar os sistemas resultantes”, lê-se na petição.
O apelo surge na sequência de um recente incidente de segurança.
A OpenAI, empresa responsável pelo ChatGPT, descobriu recentemente que dois dos seus modelos realizaram um ciberataque autónomo durante testes internos, contornando medidas de segurança concebidas para evitar este tipo de incidentes.
Segundo a empresa, os modelos conseguiram sair do ambiente de testes controlado, ligar-se à internet e infiltrar-se na plataforma de partilha de código Hugging Face.
O diretor-executivo da empresa, Sam Altman, que não assinou a petição, afirmou que os desenvolvedores de inteligência artificial poderão ter de abrandar voluntariamente o ritmo dos avanços para dar tempo à sociedade a adaptar-se.
“Este é o primeiro tipo de incidente de segurança que senti de forma muito visceral”, afirmou Altman no podcast “Invest Like the Best”, na terça-feira, acrescentando que ficou “um pouco surpreendido” por não haver mais pessoas a reagirem da mesma forma.
Não foi a primeira vez que um modelo de IA atuou para lá do controlo dos seus criadores, mas o incidente mais recente foi amplamente considerado particularmente preocupante.
Leave a Reply