Worms de inteligência artificial: o que são e por que a Anthropic se preocupa

Um relatório divulgado nesta semana pela equipe de pesquisa ofensiva da Anthropic, empresa de inteligência artificial, chamou atenção ao descrever uma ameaça concreta: um programa malicioso de IA capaz de se espalhar sozinho por televisores inteligentes conectados à internet. Os chamados worms de inteligência artificial seriam programas que se copiam sem precisar enganar uma pessoa.

Segundo a empresa, a equipe vermelha, responsável por testes internos de segurança, criou o programa e o dividiu em partes distribuídas por 15 televisores. Cada aparelho forneceu um pouco de capacidade de processamento, e o conjunto continuou funcionando. Modelos de IA costumam exigir muita potência computacional, e por isso o resultado chamou atenção.

Worms são um tipo de vírus de computador que se propaga automaticamente, explorando falhas de software e senhas fracas. Um dos casos mais conhecidos é o Morris, de 1988, criado por um estudante de pós-graduação, que se copiou tão rapidamente que levou muitas máquinas infectadas a travar. Outros, como o Stuxnet, associado a EUA e Israel e usado para sabotar centrífugas nucleares iranianas, e o WannaCry, atribuído à Coreia do Norte, causaram prejuízos de dezenas de bilhões de dólares em todo o mundo.

O que preocupa especialistas é que muitos dispositivos da chamada internet das coisas, como as TVs inteligentes, costumam receber atualizações de segurança com menos frequência que celulares e computadores. Isso dificulta a correção de falhas. Pela avaliação dos pesquisadores, um worm desse tipo poderia continuar se adaptando a outros equipamentos ao pesquisar vulnerabilidades recém-divulgadas.

A diferença em relação aos vírus tradicionais, segundo Ariel Herbert-Voss, especialista em segurança que atuou na OpenAI e hoje comanda a startup RunSybil, é que modelos de IA podem aprender durante a execução. Ele avalia que a infraestrutura de cibersegurança atual ainda não está preparada para esse tipo de ameaça e defende mais recursos para as equipes de segurança.

Os pesquisadores da Anthropic afirmam que um worm bem-sucedido precisaria de mais capacidade em aparelhos menos potentes do que é possível hoje, mas avaliam que as tendências atuais podem tornar isso viável até o fim do ano. Um estudo da Universidade de Toronto, publicado alguns meses antes, já havia infectado um computador de tamanho normal e se espalhado por máquinas semelhantes mais rapidamente que o worm das televisões.

Nem todos veem o risco como imediato. O doutorando Jonas Guan, coautor do estudo canadense, afirmou que as capacidades evoluem rapidamente. Outros especialistas ponderam que o worm da Anthropic se move devagar e que seus comportamentos podem ser bloqueados em várias camadas. Para eles, medidas básicas de higiene digital, como senhas fortes e autenticação em dois fatores, impediriam a maioria dos worms e outros ataques.

Juan Andres Guerrero-Saade, vice-presidente de pesquisa da empresa de segurança SentinelOne, classificou a demonstração como um truque de hacking com pouca viabilidade prática e disse que ela recebe uma repercussão exagerada. Já Gadi Evron, que organiza em San Francisco a conferência sobre segurança em IA chamada Unprompted, afirmou que, embora parte do discurso tenha motivação comercial, a realidade supera qualquer estratégia de marketing e que as empresas do setor não estão alertando o suficiente.

No debate regulatório, muitos especialistas fora de Washington defendem mais supervisão governamental sobre IA. Porém, parlamentares do Congresso dos EUA apresentaram projetos de lei conflitantes, e a Casa Branca criou, até agora, apenas um pequeno conselho de revisão. A Anthropic não respondeu a pedido de entrevista.

Para o leitor, o alerta vai além das televisões: especialistas recomendam manter sistemas e aparelhos atualizados, usar senhas difíceis de adivinhar e ativar a verificação em duas etapas sempre que disponível. O debate segue entre quem vê perigo concreto e quem enxerga exagero.