Tudo sobre Inteligência Artificial
A Anthropic publicou um novo relatório sobre o uso malicioso de inteligência artificial (IA) e reuniu casos em que o Claude foi empregado em operações que vão de ataques cibernéticos e espionagem a desenvolvimento de armas, pesquisas biológicas, golpes e tentativas de copiar capacidades de modelos avançados.Continua após a publicidadeO documento, publicado em 10 de setembro, analisa atividades identificadas e interrompidas pela equipe de Threat Intelligence da empresa entre dezembro de 2025 e agosto de 2026. Ao todo, são sete áreas de risco: operações cibernéticas, operações de influência, vigilância, golpes e fraudes, uso biológico, desenvolvimento de armas convencionais e destilação ilícita de modelos.A Anthropic ressalta que os casos apresentados não representam o uso indevido típico de seus modelos, mas algumas das atividades mais relevantes e novas identificadas pela empresa. Entre os envolvidos estão grupos suspeitos de terem apoio estatal, criminosos motivados financeiramente, empresas de spyware, instituições de propaganda e indivíduos politicamente motivados.IA deixa de ser apenas assistente em ataquesUma das principais conclusões do relatório aparece na parte dedicada a operações cibernéticas. Segundo a Anthropic, a IA passou a ocupar uma função mais próxima de orquestradora das operações, em vez de simplesmente responder perguntas ou ajudar pontualmente um criminoso.A empresa identificou operações em que agentes de IA participaram de diferentes etapas de um ataque, como reconhecimento, desenvolvimento de ferramentas, exploração de sistemas, coleta de informações e exfiltração de dados. Em alguns casos, humanos continuavam definindo os alvos e supervisionando os resultados, mas grande parte do trabalho era executada ou coordenada pelos sistemas de IA.A Anthropic afirma que esse avanço diminui a diferença de capacidade entre operações conduzidas por grupos bem financiados e aquelas realizadas por indivíduos. Segundo a empresa, atividades que até pouco tempo exigiriam vários profissionais especializados passaram a poder ser conduzidas por operadores com menos conhecimento técnico.Em um dos casos, associado pela Anthropic a uma operação de espionagem russa, agentes de IA automatizaram etapas que iam do desenvolvimento de ferramentas e infraestrutura até phishing, manutenção de acesso e exfiltração. Quando um malware era identificado por sistemas de segurança, os agentes podiam modificá-lo e reconstruí-lo para tentar escapar da detecção. A operação atingiu mais de 20 organizações, principalmente na Ucrânia e na Europa.
Outro caso envolveu operadores que usaram Claude como camada de engenharia e orquestração de uma operação que mantinha diferentes frentes funcionando em paralelo. Entre elas estavam pesquisa de vulnerabilidades, desenvolvimento de malware, reconhecimento de redes de governos estrangeiros e coleta de inteligência. A Anthropic afirma que os agentes podiam manter memória persistente da campanha e continuar executando determinadas tarefas mesmo quando os operadores humanos não estavam presentes.Propaganda e espionagem ganham escalaO relatório também mostra como modelos de IA podem ser incorporados à estrutura de operações de influência. Em vez de apenas gerar textos, o Claude foi usado em alguns casos para ajudar a construir a própria infraestrutura das campanhas, incluindo manuais, sistemas de personas, bancos de alvos e documentos de planejamento.Continua após a publicidadeA Anthropic identificou operações nas quais a IA funcionava como uma espécie de redação automatizada, inserida em fluxos de trabalho que já existiam. O modelo também foi usado para criar conteúdo, adaptar mensagens para diferentes públicos, manter arquivos com regras editoriais e produzir material em escala. Em alguns casos, os operadores tentaram fazer com que narrativas patrocinadas por Estados parecessem ter origem independente.Um dos casos envolveu três operações alinhadas ao Estado iraniano. Segundo a empresa, os responsáveis usaram Claude para preparar campanhas de influência associadas ao que chamavam de “guerra cognitiva”, criando planos de campanha, manuais de doutrina, sistemas de personas, bancos de alvos e documentos de planejamento ministerial. O conteúdo também era adaptado para diferentes idiomas e distribuído em diversas plataformas.Continua após a publicidadeA Anthropic identificou ainda uma operação comercial de influência que utilizava cerca de 70 sites falsos de notícias, acompanhados por dezenas de contas no X e mais de 250 contas inautênticas para comentários e amplificação. O grupo produziu pelo menos 8.913 artigos em cerca de 20 idiomas e direcionou conteúdo para públicos em seis continentes, incluindo Estados Unidos, Brasil, França e República Democrática do Congo.A vigilância aparece como outra frente importante. Entre janeiro e julho de 2026, a Anthropic identificou operações envolvendo atores alinhados a Estados, contratados governamentais e empresas comerciais de spyware na China, no Irã e na África Ocidental.Em um dos casos, um consultor que trabalhava para a segurança nacional do Mali usou Claude para desenvolver uma plataforma de interceptação capaz de monitorar comunicações nas redes móveis do país e gerar dossiês sobre alvos. No Irã, atores usaram o modelo para desenvolver uma extensão maliciosa do Firefox que coletava identidades de usuários de redes sociais. Na China, a Anthropic identificou sistemas usados para monitorar dissidentes, ativistas, minorias étnicas e comunidades da diáspora.Continua após a publicidadeEm outro caso chinês, Claude foi usado para produzir boletins governamentais de monitoramento de opinião pública. O sistema processava diariamente de 15 a mais de 30 artigos de redes sociais e veículos estrangeiros, classificando conteúdos segundo sua sensibilidade política e identificando possíveis alvos.IA também aparece em armas e pesquisas biológicasO relatório reúne seis casos relacionados ao desenvolvimento de armas convencionais: três na China, dois na Rússia e um no Iêmen. Eles envolvem desde desenvolvimento de software para armas até atividades de inteligência e aquisição de componentes de uso civil e militar.Um dos casos mais detalhados envolve uma célula baseada no norte do Iêmen. Os integrantes trabalhavam em três programas de armas, incluindo um foguete guiado, um míssil balístico com alcance declarado superior a 2 mil quilômetros e uma família de mísseis que incluía uma variante de veículo planador hipersônico.Continua após a publicidade
Modelos atuais da Anthropic ganharam capacidade científica, aumentando o desafio de distinguir pesquisa legítima de possível uso malicioso – Imagem criada por inteligência artificial: Grok/Olhar DigitalSegundo a Anthropic, o Claude Code foi usado no lugar de engenheiros humanos para desenvolver softwares de orientação, navegação e controle. O sistema ajudou a integrar um piloto automático, escrever componentes de controle e estimativa de posição, ajustar configurações, executar processos de compilação e realizar simulações de voo. Os responsáveis chegaram a testar um foguete guiado, mas o teste aparentemente fracassou. A Anthropic diz não ter evidências de que um armamento operacional tenha sido colocado em campo.Na área biológica, a Anthropic apresenta cinco estudos de caso envolvendo pesquisas que poderiam apoiar o desenvolvimento de armas biológicas. A empresa, porém, faz uma ressalva importante: os envolvidos eram cientistas e a companhia não afirma que eles tinham intenção de causar danos. Por esse motivo, também não divulga os nomes das instituições, dos países ou detalhes específicos dos agentes e técnicas envolvidos.Os casos incluem pesquisas de ganho de função envolvendo o vírus chikungunya, planejamento de experimentos com influenza aviária altamente patogênica, uma proposta relacionada a ortopoxvírus, um atlas de peptídeos de veneno e trabalhos de redesenho computacional de toxinas.A empresa destaca que esse é um dos problemas mais difíceis de avaliar porque a biologia é uma área de duplo uso. O mesmo conhecimento pode contribuir para vacinas e tratamentos ou, dependendo de como for aplicado, para tornar um agente biológico mais perigoso. Por isso, a Anthropic diz que não considera os casos evidência de uma ameaça biológica iminente criada com IA, mas afirma que eles mostram a necessidade de salvaguardas mais fortes diante da capacidade crescente dos modelos.Entre os casos apresentados pela Anthropic está também uma operação de fraude baseada em aplicativos de relacionamento. Uma empresa de desenvolvimento de aplicativos sediada na China usou Claude para criar uma rede com mais de 20 aplicativos e alimentar as personas de IA que conversavam com os usuários, embora os serviços fossem anunciados como se as interações fossem totalmente humanas.Em apenas duas semanas, em abril de 2026, a Anthropic identificou mais de 4.700 personas de IA diferentes conversando com pelo menos 25 mil pessoas. A operação também empregava pessoas reais, misturadas aos perfis automatizados para aumentar a aparência de autenticidade.A proporção era de aproximadamente três personas de IA para cada pessoa real. Os trabalhadores humanos eram usados principalmente em situações que os modelos não conseguiam executar, como chamadas de vídeo e interações em redes sociais. Enquanto isso, as personas alimentadas por Claude podiam manter conversas autonomamente e, ao longo das duas semanas analisadas, produziram cerca de 2,36 milhões de mensagens.A operação ainda usava diferentes modelos de IA para funções específicas, incluindo geração de respostas para trabalhadores humanos, avaliação de aparência, moderação de fotos e voz e criação de imagens para os perfis. Os aplicativos também tinham mecanismos para tentar escapar das avaliações das lojas de aplicativos.Empresas tentam copiar capacidades dos modelosA última frente analisada no relatório é a chamada destilação ilícita. A técnica de destilação, por si só, é legítima: um modelo maior e mais capaz pode ser usado como “professor” para gerar respostas que ajudam a treinar um modelo menor. O problema está em fazer isso de maneira clandestina e sem autorização para copiar capacidades de outro sistema.Segundo a Anthropic, desde a primeira divulgação sobre o tema, em fevereiro, a empresa identificou e interrompeu novos ataques desse tipo atribuídos a sete laboratórios sediados na China. As campanhas usaram redes de contas falsas, cartões de crédito roubados, credenciais e chaves de API para acessar os modelos da companhia.A empresa afirma que os ataques buscavam principalmente capacidades consideradas valiosas em modelos avançados, como uso de ferramentas e agentes, programação, análise de dados e raciocínio lógico. Em alguns casos, os responsáveis tentaram extrair registros de raciocínio do Claude para utilizá-los no treinamento de outros modelos.
Empresa bloqueia mais de 151 milhões de acessos suspeitos da China e intercepta ataques cibernéticos contra governos – Imagem: Samuel Boivin/ShutterstockUm dos casos atribuídos pela Anthropic a operadores ligados à Alibaba foi descrito como o maior ataque de destilação já medido pela empresa. A campanha atingiu quase 3 milhões de trocas por dia, partindo de mais de 3.500 contas fraudulentas, e acumulou mais de 151 milhões de interações entre maio e julho de 2026. Segundo a Anthropic, os dados foram usados para ajudar a desenvolver modelos da família Qwen. A Anthropic também afirma que algumas dessas operações levantaram uma preocupação adicional: o possível uso de dados de usuários. Segundo a empresa, laboratórios como DeepSeek, Xiaomi e Moonshot encaminharam conversas de seus próprios usuários para o Claude e usaram as respostas como dados de treinamento. A companhia afirma ter identificado informações sensíveis nesses registros, incluindo dados de indivíduos, empresas e organizações ligadas a governos.No conjunto, os sete capítulos do relatório mostram uma mudança na forma como a Anthropic enxerga o uso indevido de IA. Os casos não se limitam a pessoas fazendo perguntas perigosas a um chatbot. Em diferentes operações, o Claude foi incorporado a fluxos de trabalho persistentes, sistemas automatizados e estruturas que permitiam executar tarefas em escala.A própria empresa afirma que os modelos usados nos casos incluem Claude Haiku, Sonnet e Opus. Os casos de uso indevido analisados não envolveram os modelos das classes Fable ou Mythos, com exceção de um caso de destilação ilícita. Para a Anthropic, à medida que os modelos se tornam mais capazes, os riscos associados a esse tipo de uso também aumentam, exigindo evolução contínua das medidas de segurança.
Ana Luiza Figueiredo
Ana Figueiredo é repórter de tecnologia do Olhar Digital. É formada em jornalismo pela Universidade Federal de Uberlândia (UFU).
Ver todos os artigos →
