O Google Threat Intelligence Group (GTIG) identificou um aumento significativo em tentativas de extrair e replicar modelos de inteligência artificial, além de uso indevido dessas tecnologias por grupos de hackers apoiados por Estados. O relatório aponta que a prática de “model extraction”, em que invasores consultam repetidamente um modelo para aprender sua lógica e treinar um novo modelo, representa um risco crescente para desenvolvedores e provedores de IA.
Segundo o GTIG, esses ataques não acontecem por invasões diretas, mas por meio de acessos legítimos às APIs, o que permite que agentes maliciosos criem versões clonadas de modelos sofisticados com menos custo e esforço. A recomendação é revisar padrões de acesso e monitorar atividades suspeitas para evitar esse tipo de extração indevida.
O relatório também identificou que grupos estatais de diferentes países, incluindo agentes ligados à China, Irã, Coreia do Norte e Rússia, estão utilizando modelos como o Gemini em todas as fases de ataques, desde reconhecimento de alvos e coleta de inteligência até a geração de campanhas de phishing e suporte à criação de malware. Em vários casos, o Google diz ter detectado e desabilitado contas e infraestrutura associadas a essas atividades.
Especialistas alertam que esses acontecimentos representam um novo tipo de ameaça digital, em que sistemas de IA podem ser empregados para elaborar ataques mais rápidos, sofisticados e difíceis de detectar. Também levantam questões sobre propriedade intelectual e segurança de modelos avançados de IA.
