Durante um teste de segurança cibernética, o Gemini, a ferramenta de inteligência artificial (IA) do Google, acessou a internet e invadiu os sistemas de três empresas. A confirmação veio da companhia ao jornal americano The Wall Street Journal nesta sexta-feira (18).

De acordo com o Google, os incidentes ocorreram em maio, quando um teste foi realizado pela empresa Irregular. Nos testes desse tipo, os modelos de IA recebem tarefas a serem executadas em um ambiente controlado, mas possuem autonomia para decidir quais ações tomar para alcançar o objetivo. Pesquisadores monitoram o comportamento do sistema a fim de avaliar suas capacidades e identificar riscos potenciais.

Em uma das situações, o Gemini conseguiu adivinhar senhas para acessar um sistema que estava protegido. Em outros casos, o modelo levou a cabo a descoberta de credenciais em repositórios públicos e as utilizou para acessar ambientes restritos.

A tarefa designada à IA era coletar informações de um software pertencente a uma empresa fictícia dentro do ambiente de testes. O problema surgiu quando a empresa fictícia compartilhou o mesmo nome de uma real, que foi acessada inadvertidamente pelo modelo. Além disso, houve um erro que permitiu ao Gemini acessar a internet, o que possibilitou a saída do ambiente controlado.

Em resposta ao WSJ, a Google afirmou que o sistema interrompeu a invasão assim que detectou o acesso a empresas reais. A gigante da tecnologia não revelou os nomes das organizações afetadas, mas garantiu que elas foram informadas, assim como as autoridades federais.

A Irregular também esteve presente em outros casos semelhantes que foram divulgados, envolvendo modelos da OpenAI, Meta e Anthropic. Conforme relatado, sistemas como o ChatGPT e o Claude também conseguiram acessar ambientes externos durante as avaliações. No entanto, ao contrário do Gemini, esses modelos não interromperam suas atividades assim que perceberam que haviam saído do ambiente de testes.

Esse episódio surge em um contexto de crescente preocupação com a autonomia dos modelos de IA mais avançados. Após a publicação de um artigo do CEO da Anthropic, Dario Amodei, que alerta sobre a evolução perigosa da tecnologia, líderes da OpenAI, Google e SpaceX começaram a fazer apelos públicos por medidas que desacelerem o desenvolvimento de sistemas de inteligência artificial mais poderosos. Até agora, contudo, as empresas não apresentaram um plano detalhado sobre como essa desaceleração poderia ser implementada.