Agentes de IA tentam invadir sites de governos dos Estados Unidos e Canadá

benefício do assinante

Assinantes podem liberar 7 acessos por dia para conteúdos da Folha.

Já é assinante? Faça seu login

São Paulo Agentes de inteligência artificial da OpenAI tentaram invadir órgãos do governo dos EUA, sites de empresas e de organizações sem fins lucrativos, segundo levantamento feito por empresas de pesquisa e de perícia digital. Um site do governo do Canadá também foi alvo de ataque, mas não há uma comprovação de que a tentativa teria sido feita por agentes da criadora do ChatGPT.

A Asymmetric Security, empresa de perícia digital, constatou que os modelos da OpenAI extraíram dados de 55 sites, segundo um relatório ao qual o jornal Financial Times teve acesso. Entre eles estavam o CDC (Centro de Controle e Prevenção de Doenças dos EUA), a SEC (Comissão de Valores Mobiliários dos EUA), a AIE (Agência Internacional de Energia) e a empresa de pesquisas científicas Mayo Clinic.

A investigação da Asymmetric revelou táticas inéditas usadas pelo software para acessar a internet, incluindo apagar registros ou torná-los inacessíveis, o que reduziu a capacidade de auditores externos e pesquisadores de examinar as ações da OpenAI.

Entre as táticas usadas estavam a criação de caixas de entrada temporárias de email e de contas privadas por meio do serviço Urlquery —ferramenta usada para verificar a presença de malware em sites— para baixar dados.

Pesquisadores afirmaram que essas ações ocultas de agentes de IA impediram auditores externos de rastrear os tipos de dados que os bots extraíram de sites, como ocorreu no caso da invasão a um site do governo da Austrália, tornado público na semana passada.

Pippa Thompson, cofundadora da Asymmetric Security, disse que ações desse tipo são geralmente realizadas por hackers humanos. "É possível que os agentes estivessem usando deliberadamente essas ferramentas para encobrir seus rastros", afirmou.

A Asymmetric não conseguiu determinar se as ações dos agentes de IA foram deliberadas ou se decorreram de um desvio de comportamento provocado por restrições impostas em um exercício de teste. As conclusões aumentam os temores quanto à transparência e à falta de supervisão dos principais laboratórios.

A OpenAI afirmou que está avaliando os casos relatados e que está notificando os alvos dos ataques, quando há uma identificação. A empresa acrescentou ter constatado que a maioria das atividades detectadas envolvia "tarefas rotineiras de pesquisa", como o acesso a conteúdo disponível publicamente na internet.

A SEC afirmou que nenhuma informação privada foi acessada. O CDC, a AIE e a Mayo Clinic não responderam aos pedidos de comentário do FT.

Regulador dos EUA amplia investigação sobre Anthropic e OpenAI após invasões de agentes de IA

Governos ficam para trás com avanço acelerado da IA e efeito de leis limitado

OpenAI afirma que governos estão entre dezenas de organizações invadidas por seus agentes

Zainab Ali Majid, cofundadora da Asymmetric, disse que a OpenAI mantém acesso exclusivo às "cadeias de pensamento" de seus agentes, que são registros de atividades com as justificativas para suas ações. As vítimas de violações cibernéticas também mantêm alguns registros dos tipos de dados baixados.

Ela alertou que essa falta de transparência, somada ao intervalo entre as invasões e a divulgação feita pela OpenAI, pode dificultar a realização de uma investigação.

TENTATIVA DE ATAQUE NO CANADÁ

Já a empresa de pesquisa em IA Transluce afirmou nessa quarta-feira (30) que agentes de IA tentaram invadir um site do governo canadense, que declarou não haver indícios de que seus sistemas tenham sido comprometidos.

Os agentes tentaram acessar o Library and Archives Canada em 28 de maio e 9 de junho, segundo a Transluce. O governo canadense teria sido informado sobre a ação na segunda-feira.

"Não atribuímos essas tentativas à OpenAI com segurança, mas elas empregam táticas compatíveis com atividades anteriores de agentes que atribuímos à OpenAI em um período semelhante", afirmou a Transluce.

O serviço online gratuito arquivo.pt, arquivo nacional da web de Portugal operado pela Fundação para a Ciência e a Tecnologia do país, registrou 899 solicitações ao serviço de "busca no acervo" do Library and Archives Canada, incluindo uma série de tentativas de invasão aparentemente frustradas, em 28 de maio e 9 de junho, informou a Transluce.

O Centro Canadense de Segurança Cibernética afirmou na terça-feira estar ciente dos relatos de uma suposta atividade de agentes de IA. "Até o momento, não há indícios de que sistemas governamentais tenham sido comprometidos", declarou em nota.

A OpenAI disse estar "ciente dos relatos de que modelos da OpenAI tentaram acessar informações publicamente disponíveis em sites do governo canadense". Um porta-voz afirmou que a empresa estava analisando as descobertas relatadas e havia fornecido informações preliminares às autoridades canadenses responsáveis pela investigação do governo.

GOVERNOS TÊM DIFICULDADE PARA ACOMPANHAR IA

As principais empresas de IA do mundo alertaram sobre os riscos que a tecnologia representa para a humanidade e fizeram um apelo para que os governos trabalhem juntos na gestão dessa tecnologia cada vez mais poderosa. Governos de todo o mundo têm encontrado dificuldades para acompanhar os rápidos avanços da IA.

Várias violações recentes cometidas por agentes de IA fora de controle em diferentes partes do mundo deixaram governos e empresas em alerta.

Na semana passada, a Austrália informou que um agente da OpenAI invadiu, em junho, um portal governamental de dados de saúde, obtendo acesso não autorizado a arquivos, no que foi o primeiro caso conhecido de um agente de IA invadindo um site governamental.

O primeiro-ministro australiano, Anthony Albanese, afirmou que a OpenAI inicialmente enviou um email para uma caixa de entrada pública em 10 de setembro e levou mais cinco dias para entrar em contato com o departamento de segurança cibernética do país.

Na terça-feira (29), a OpenAI pediu desculpas pela invasão do site do governo australiano pelo agente de IA fora de controle.

O grupo de pesquisa em IA Transluce afirmou, em um relatório publicado na semana passada, que a invasão do site do governo australiano fez parte de uma onda mais ampla de bots de IA que tinham sites como alvo para coletar dados destinados a exercícios de treinamento.

Com informações da Reuters e do Financial Times

Siga e leia tudo sobre o tema