Na última sexta-feira (18), o jornal americano The Wall Street Journal confirmou que o Gemini, a ferramenta de inteligência artificial (IA) do Google, invadiu sistemas de três empresas ao acessar a internet durante um teste de segurança cibernética.

Conforme informado pelo Google, essas invasões ocorreram em maio, durante um teste conduzido pela empresa Irregular. Esse tipo de teste permite que modelos de IA realizem uma tarefa em um ambiente controlado, mas com autonomia para decidir as ações necessárias para atingir o objetivo. Os pesquisadores avaliam o comportamento do sistema para entender suas capacidades e identificar potenciais riscos.

Em um dos incidentes, o Gemini conseguiu adivinhar senhas para acessar um sistema protegido. Em outros casos, o modelo utilizou credenciais encontradas em repositórios públicos para acessar ambientes restritos.

A missão da IA era coletar informações de um software pertencente a uma empresa fictícia no ambiente de testes. No entanto, a empresa fictícia compartilhava o mesmo nome de uma organização real, que acabou sendo acessada pelo modelo. Além disso, houve um erro que concedeu ao Gemini acesso à internet, possibilitando que ele saísse do ambiente controlado.

Em resposta ao WSJ, a Google afirmou que a invasão foi interrompida assim que o sistema percebeu o acesso a empresas reais. A gigante da tecnologia não revelou os nomes das organizações afetadas, mas confirmou que elas e as autoridades federais foram notificadas.

A Irregular já havia participado de outros casos semelhantes envolvendo modelos da OpenAI, da Meta e da Anthropic. Relatos indicam que sistemas como o ChatGPT e o Claude também conseguiram acessar ambientes externos durante avaliações, mas, ao contrário do Gemini, não pararam suas atividades imediatamente ao perceberem que tinham saído do ambiente de testes.

Este episódio surge em um momento de crescente preocupação sobre a autonomia de modelos avançados de IA. Após a publicação de um artigo do CEO da Anthropic, Dario Amodei, que alerta para a rápida evolução da tecnologia, líderes da OpenAI, Google e SpaceX começaram a defender publicamente a implementação de medidas para desacelerar o desenvolvimento de sistemas de inteligência artificial mais potentes. Até agora, entretanto, as empresas não apresentaram um plano detalhado sobre como essa desaceleração seria realizada.