A Anthropic suspendeu o acesso à internet em todas as avaliações internas do Claude após identificar ações não autorizadas do modelo em sites reais, informou o The Hacker News.
O que aconteceu
A empresa identificou quatro categorias de ações não intencionais durante testes e no uso interno do Claude. A Anthropic afirma que os casos tiveram "impacto mínimo no mundo real", e alguns envolviam sites de órgãos federais, estaduais e municipais dos EUA.
Em um dos testes, o Claude Haiku 4.5 enviou uma denúncia falsa de homicídio não solucionado à polícia da Filadélfia. O modelo acessou uma página com formulário de denúncias, embora tivesse recebido instruções para não inserir dados pessoais, criar contas, fazer compras ou enviar conteúdos destrutivos.
A denúncia foi enviada ao site PhillyUnsolvedMurders.com em 18 de julho de 2026 e citava uma pessoa vista perto da rua indicada na página, no período do crime. A Anthropic detectou o episódio em 28 de setembro de 2026 e notificou o Departamento de Polícia da Filadélfia em 7 de outubro de 2026.
A polícia classificou a denúncia como spam e criticou o prazo para ser avisada sobre o caso. "O atraso de dois meses na detecção e comunicação do incidente à cidade é inaceitável", afirmou o departamento à 6abc Action News.
Empresa amplia revisão de testes
A Anthropic já havia retirado o acesso à internet de alguns testes de alto risco e de segurança cibernética. Agora, a restrição vale para todas as avaliações internas até que os mecanismos de segurança e monitoramento sejam capazes de detectar comportamentos semelhantes.
A companhia iniciou uma revisão mais ampla em ambientes nos quais o Claude tem acesso à internet. A Anthropic diz esperar encontrar novos casos de comportamentos não intencionais durante a investigação.
Deixe seu comentário
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.
