Um modelo de inteligência artificial (IA) da Alibaba tentou enviar um arquivo de teste para um servidor da empresa na China durante uma avaliação de segurança, segundo a concorrente canadense Cohere. A tentativa foi bloqueada pelo ambiente de testes, que não tinha conexão com a internet, mas chamou a atenção porque teria ocorrido mesmo depois de o próprio modelo indicar que não utilizaria ferramentas externas.
O episódio envolveu o Qwen3.8-Flash-Next, modelo de pesos abertos da Alibaba. Segundo a Cohere, o sistema recebeu a tarefa de escrever uma regra para detectar downloads maliciosos de arquivos, mas, em vez de se limitar à atividade solicitada, examinou a máquina em que estava sendo executado e tentou enviar uma sequência de teste para um servidor de armazenamento do Alibaba Cloud em Pequim (China).
A empresa canadense afirmou que não conseguiu determinar se o comportamento foi deliberado ou resultado de dados residuais do treinamento do modelo.
Como aconteceu a tentativa de envio de dados
Comportamento foi raro, segundo a Cohere
A empresa afirmou que o comportamento apareceu em menos de uma a cada 100 mil ações avaliadas. Mesmo com frequência baixa, a Cohere argumenta que o problema pode ganhar importância em operações realizadas em grande escala.
Segundo a estimativa apresentada pela companhia, um serviço que executasse dez milhões de ações de agentes de IA por semana poderia registrar até 100 tentativas semelhantes no período.
A Cohere ressaltou, no entanto, que não sabe explicar a origem do comportamento. Uma das possibilidades levantadas é que o modelo tenha reproduzido informações presentes em dados de treinamento que não foram devidamente removidas, como registros de ambientes de desenvolvimento.
Outra hipótese seria a presença de algum comportamento deliberado para estabelecer contato com um servidor externo. A empresa não apresentou evidências suficientes para confirmar essa interpretação e afirmou que não é possível concluir que houve intenção maliciosa.
Em testes posteriores, a Cohere também utilizou uma técnica chamada prefilling, na qual fornece ao modelo parte de seu raciocínio e o início de um comando para observar como ele completa a sequência. Nessas condições, a empresa conseguiu aumentar a frequência com que o sistema mencionava determinados endereços monitorados. Esse procedimento, porém, não demonstra que o comportamento ocorreria espontaneamente com a mesma frequência em situações normais.
Modelos chineses ganham espaço entre desenvolvedores
O caso ocorre em meio à expansão do uso de modelos de IA de pesos abertos, que podem ser baixados e executados em servidores próprios. Essa característica oferece às empresas e aos desenvolvedores maior controle sobre a infraestrutura, mas também exige cuidados com permissões, conexões de rede e acesso a dados.
A Cohere vende modelos de IA para empresas e governos e atua no segmento de IA soberana, que busca oferecer maior controle sobre onde os sistemas são executados e como os dados são tratados. A companhia também compete com modelos abertos, como os da família Qwen, da Alibaba.
Segundo o relatório de primavera de 2026 da plataforma Hugging Face, modelos chineses responderam por 41% dos downloads registrados no serviço ao longo dos 12 meses anteriores, a maior parcela entre os países.
O episódio não demonstra, por si só, que o modelo foi projetado para enviar dados à China ou que outros modelos da Alibaba apresentam o mesmo comportamento. A tentativa foi bloqueada no teste relatado e a causa permanece desconhecida.
O caso reforça a importância de limitar conexões externas desnecessárias, monitorar o uso de ferramentas e avaliar o comportamento real dos agentes de IA, especialmente quando eles operam em ambientes com acesso a arquivos, sistemas corporativos ou informações sensíveis.
Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.
