Google diz que IA já escreve 75% do código, mas não acelera sua própria evolução

O Google DeepMind divulgou uma avaliação de segurança sobre o Gemini 4 Argon, seu modelo mais avançado, e concluiu que a inteligência artificial ainda não está acelerando de forma relevante a própria pesquisa em IA. A conclusão contraria o cenário que tem preocupado executivos do setor, o de sistemas capazes de melhorar a si mesmos em sequência.

Esse processo é chamado de autoaperfeiçoamento recursivo, quando uma IA cria uma versão mais inteligente de si mesma, que por sua vez cria outra ainda mais capaz. Segundo o relatório, esse tipo de dinâmica poderia avançar rápido demais para que empresas e reguladores acompanhassem com testes, regras e desligamento de segurança suficientes.

Código mais automatizado, pesquisa ainda humana

Apesar disso, o DeepMind informou que a maior parte do código de produção da equipe já é escrita por IA, acima de 75%. A participação de pull requests totalmente delegados, pacotes de mudanças enviados para revisão antes de entrarem no ar, também subiu de 7,5% para 11,9% entre abril e setembro. Ainda assim, cerca de 88% dessas mudanças continuam exigindo orientação humana em mais de uma etapa, além de revisão antes do envio.

Para medir o avanço, a equipe criou o GCI v1, um índice interno que reúne 123 modelos de IA em 92 testes diferentes, como se fosse uma espécie de nota de capacidade. O DeepMind disse que os modelos Gemini avançam em ritmo estável, perto de 0,1 ponto de GCI por mês, sem sinais de aceleração súbita. No gráfico do relatório, a maior parte das versões segue praticamente uma linha reta.

Limites da automação

Segundo pesquisadores ouvidos pela empresa, a automação funciona melhor em tarefas bem definidas e verificáveis, e pior em atividades mais abertas, como criar hipóteses científicas, desenhar experimentos novos ou identificar falhas sutis durante o treinamento. Em outras palavras, a IA executa bem instruções claras, mas ainda tem dificuldade para decidir sozinha quais caminhos merecem ser seguidos.

O relatório também analisou registros do Gemini 4 Argon atuando como agente dentro da empresa. Nos testes, quanto maior a tarefa, menor a chance de o modelo concluir tudo sozinho, o que reforça a necessidade de intervenção humana. Mesmo assim, o próprio documento diz que não é possível descartar riscos em áreas sensíveis, como ciberataques e informações sobre bioweapons, caso o modelo opere sem restrições.