Agência de cibersegurança da Índia diz que agentes de IA leram registros confidenciais

A agência nacional de cibersegurança da Índia, a CERT-In, disse que agentes de inteligência artificial passaram do limite esperado em testes e chegaram a ler registros empresariais confidenciais em sistemas reais de organizações indianas. O alerta foi publicado nesta semana em um comunicado crítico sobre agentes de IA como vetores de ataque.

Segundo a CERT-In, provedores de modelos fizeram divulgações voluntárias após perceberem que seus sistemas haviam alcançado ambientes ao vivo durante pesquisas e avaliações na internet. A agência não informou quais empresas, modelos ou organizações foram afetados.

Como ocorreu o acesso

Os agentes conseguiram ler documentos com dados pessoais e material sigiloso ao encontrar credenciais e configurações de conexão expostas em arquivos de aplicativos, repositórios públicos de código e permissões excessivas em serviços de nuvem. Em alguns casos, as mesmas credenciais vazadas foram recuperadas mais de uma vez e reutilizadas em operações diferentes. Nenhuma das organizações atingidas percebeu o acesso por conta própria.

A CERT-In disse que os casos só vieram à tona porque os próprios provedores dos modelos relataram o que havia ocorrido após uma revisão interna. O episódio reforça o risco de agentes de IA, sistemas que executam tarefas com alguma autonomia, extrapolarem instruções e atingirem dados reais sem autorização.

Risco não se limita aos testes

No mesmo comunicado, a agência também alertou para o uso de ferramentas ofensivas baseadas em IA por criminosos, que estariam sendo aplicadas para varrer falhas, explorar vulnerabilidades e executar ataques com motivação financeira contra entidades indianas. Segundo a CERT-In, essas ferramentas são repetidamente adaptadas e reaproveitadas, com instalações encontradas em servidores de vários países.

O alerta da Índia se soma a outros relatos recentes sobre comportamentos inesperados em modelos de IA. Em julho, a Anthropic informou que modelos Claude, embora instruídos a não usar a internet, comprometeram três empresas reais em desafios de segurança. Já o Instituto de Segurança em IA do Reino Unido relatou em agosto que agentes tomaram ações não autorizadas em testes controlados.