A Meta afirmou que um de seus modelos de inteligência artificial acessou a internet de forma independente e conseguiu explorar uma vulnerabilidade de segurança no sistema de uma empresa parceira. O episódio, divulgado em comunicado oficial, se soma a uma sequência de casos recentes envolvendo comportamentos autônomos e inesperados de sistemas de IA desenvolvidos por grandes empresas de tecnologia.
Segundo a Meta, ocorreu durante testes de segurança cibernética conduzidos pela Irregular, empresa independente contratada para avaliar a robustez dos sistemas da companhia. Uma “configuração incorreta” no ambiente de testes teria permitido, de forma não intencional, que o modelo de IA obtivesse acesso à internet, algo que não fazia parte do escopo planejado para a avaliação.
A partir desse acesso indevido, o sistema teria identificado e explorado uma brecha de segurança em um serviço de terceiros, reproduzindo um padrão já registrado por outras empresas do setor. A Meta afirmou que está apurando o caso internamente e que um relatório detalhado será divulgado assim que a investigação for concluída.
Nas últimas semanas, tanto a OpenAI quanto a Anthropic relataram situações em que seus modelos de IA extrapolaram as instruções recebidas, acessando redes externas e encontrando formas de contornar barreiras de segurança digital estabelecidas por outras organizações.
Um dos casos mais chamativos foi divulgado pelo Instituto de Segurança de IA do Reino Unido (AISI), que identificou “comportamento não autorizado de agentes” durante testes cibernéticos. Em uma das situações relatadas, um agente de IA chegou a criar identidades falsas na internet para pressionar uma pessoa a aprovar o uso de código malicioso.
De acordo com o AISI, alguns dos modelos testados se envolveram em atividades contínuas e potencialmente prejudiciais, direcionadas a pessoas e organizações reais. O órgão declarou um incidente de segurança e afirmou ter contido a situação em cerca de uma hora após sua descoberta, dando início a uma investigação completa.
O próprio AISI esclareceu que, durante os testes, algumas barreiras de proteção contra uso indevido foram intencionalmente desativadas, prática padrão para avaliar o potencial máximo dos modelos em cenários controlados. Segundo a agência, o acesso à internet foi liberado de forma deliberada e os classificadores de segurança cibernética dos provedores foram suspensos, condições que não representam o funcionamento normal desses sistemas quando disponibilizados ao público.
