benefício do assinante
Assinantes podem liberar 7 acessos por dia para conteúdos da Folha.
Já é assinante? Faça seu login
São Francisco (Califórnia) A OpenAI notificou "dezenas" de parceiros, incluindo governos, de que suas ferramentas invadiram seus sistemas, em uma admissão que provavelmente aumentará as preocupações com os riscos da IA (inteligência artificial) avançada.
Em uma publicação em seu blog na sexta-feira (25), a empresa também afirmou que seus agentes de IA vazaram inadvertidamente mais de 50 imagens compartilhadas por seus usuários para sites de hospedagem de imagens.
A empresa, avaliada em US$ 852 bilhões, vem conduzindo uma análise do comportamento de seus modelos durante o treinamento e a avaliação após um incidente revelado em julho, no qual agentes de IA testados pela OpenAI acessaram a internet e invadiram o Hugging Face, repositório de modelos e dados.
Durante a análise, a OpenAI identificou vários casos em que "os modelos podem ter contornado os controles de segurança de terceiros ou prejudicado a disponibilidade de um serviço on-line; ou casos de desalinhamento afetaram negativamente sites ou serviços de terceiros", afirmou a empresa.
A OpenAI descreveu as publicações feitas por seus agentes em sites de terceiros sem que tivessem recebido instruções para isso como um novo tipo de incidente de segurança, denominado pela empresa de "spam de agentes".
O laboratório de IA notificou "dezenas de terceiros", incluindo governos, universidades e órgãos públicos, de que eles podem ter sido afetados.
A admissão provavelmente intensificará a apreensão quanto à possibilidade de novos sistemas de IA —em particular, agentes avançados capazes de executar uma série de tarefas sem supervisão humana— extrapolarem a intenção de suas instruções e invadirem sistemas externos.
No início desta semana, veio à tona que um agente da OpenAI havia invadido o site do serviço público de saúde da Austrália, acessando arquivos públicos e não públicos. Na quarta-feira, o primeiro-ministro australiano, Anthony Albanese, classificou a invasão e a resposta lenta da OpenAI ao incidente como "obviamente inaceitáveis".
As violações de segurança na OpenAI, assim como nos laboratórios de IA rivais Anthropic e Google, levaram a novos apelos por uma pausa ou desaceleração do desenvolvimento em todo o setor.
Bill Gates alerta que IA pode causar 'um bilhão de mortes'
EUA e China abrirão canal de comunicação para incidentes relacionados à IA
Sistemas da OpenAI interferiram em sites do governo dos EUA após agirem por conta própria
Sam Altman, Dario Amodei e Elon Musk, líderes da OpenAI, Anthropic e SpaceX, respectivamente, defenderam uma "moderação do ritmo" no desenvolvimento de IA de fronteira, para que os testes de segurança possam acompanhar a implantação da tecnologia.
A questão também esteve no centro das conversas entre o presidente Donald Trump e Xi Jinping nesta semana, durante a visita do presidente chinês aos EUA.
Trump tem resistido aos apelos para regulamentar o setor ou impor salvaguardas rigorosas aos principais laboratórios de IA dos Estados Unidos.
O presidente afirmou que a liderança do país nessa tecnologia será vital para manter a vantagem sobre a China e outros rivais: "Quem vencer na IA, vence", disse ele no início deste mês.
