A Anthropic afirmou ter impedido, neste ano, várias tentativas de cientistas de usar sua tecnologia em pesquisas que poderiam ajudar a desenvolver armas biológicas. A revelação surge em meio ao temor crescente de especialistas quanto à ameaça que a IA representa para a segurança pública.
A startup apresentou cinco exemplos de situações em que usuários "contornaram controles" e fizeram outros esforços para "ocultar" a finalidade de suas pesquisas a fim de driblar as salvaguardas. Os casos envolveram alguns usuários de países cujo acesso aos modelos da empresa é proibido, entre eles Rússia, China e Irã.
"Esperamos que, ao compartilhar esses exemplos, possamos estimular uma discussão no setor de IA e com os governos sobre os riscos biológicos emergentes e a melhor forma de combatê-los", afirmou a Anthropic em um relatório sobre tentativas de usar seus modelos para atividades maliciosas.
Entre os estudos de caso de possível uso indevido na área biológica apresentados pela empresa estava o de um pesquisador de uma "região não atendida" que "passou semanas planejando", com Claude, o modelo de IA da Anthropic, experimentos envolvendo a gripe aviária. A empresa afirmou que seus filtros de segurança restringiram o trabalho aos modelos menos avançados.
A companhia ressaltou que não poderia afirmar com certeza que os cientistas citados nos exemplos pretendiam causar danos. As mesmas informações necessárias para criar armas biológicas também poderiam ser usadas para desenvolver uma vacina.
A Anthropic informou ter banido as contas mencionadas no relatório, mas não revelou os nomes das instituições de pesquisa nem os países onde ocorreram os incidentes.
Uma turbulência em torno da segurança da IA iniciou nesta semana, quando Jacob Coxon, que já trabalhou na OpenAI, deixou a Anthropic, afirmando que os funcionários "acreditam sinceramente que ela [a IA] poderia matar todos nós até o fim da década".
As preocupações com a tecnologia começaram a se intensificar no início deste ano, com o lançamento de modelos avançados como o Mythos, da Anthropic. A OpenAI também criou uma nova preocupação em julho, ao afirmar que seus modelos haviam invadido de forma autônoma os sistemas do grupo de IA Hugging Face.
Há um consenso cada vez maior entre executivos de IA e pesquisadores de biossegurança de que o uso da tecnologia na biologia precisa ser protegido e regulamentado à medida que os modelos se tornam mais avançados.
Especialistas temem cada vez mais que a IA possa ser usada por grupos terroristas, agentes estatais ou indivíduos que agem sozinhos para desenvolver armas biológicas, criar vírus ou liberar patógenos nocivos já existentes.
Mas, mesmo que a IA possa ser usada para projetar uma arma biológica teórica, ainda existem possíveis obstáculos, como a capacidade de produzi-la na prática e os recursos necessários para isso.
A segurança cibernética está entre as maiores preocupações dos defensores da segurança.
O relatório da Anthropic sobre os usos indevidos de sua tecnologia detalhou incidentes que incluíam "desde uma rede de aplicativos falsos de relacionamento criados para fraudar usuários até sistemas de vigilância desenvolvidos para identificar e monitorar dissidentes".
O laboratório também apresentou novos detalhes sobre alegações de que sete laboratórios sediados na China, entre eles Moonshot e DeepSeek, tentaram replicar sua tecnologia por meio de um processo conhecido como destilação.
A Anthropic afirmou ter detectado "métodos cada vez mais sofisticados para contornar nossas defesas e extrair os recursos dos modelos de fronteira dos Estados Unidos".
Colaborou Michael Peel, de Londres
Assinantes podem liberar 7 acessos por dia para conteúdos da Folha.
Recurso exclusivo para assinantes
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.
