Após incidentes relatados pelas empresas OpenAI, Anthropic e Meta, o Google divulgou que, pela primeira vez, o Gemini, modelo de inteligência artificial da companhia, acessou a internet e invadiu o sistema de outras empresas durante um teste de cibersegurança. Trata-se do primeiro ataque hacker autônomo conhecido de sistemas de IA da big tech.
Os ataques ocorreram em maio, durante teste conduzido pela Irregular, uma companhia independente que realiza avaliações de cibersegurança.
Durante uma avaliação padrão, o Gemini encontrou informações públicas on-line e tentou adivinhar as credenciais de acesso a três sites que considerou estarem dentro do escopo do teste, afirmou Heather Adkins, vice-presidente de engenharia de segurança do Google, em comunicado.
“Garantimos que as três entidades fossem informadas e trabalhamos com nosso parceiro de treinamento nas mudanças que elas implementaram em seus processos de teste”, disse.
Já um porta-voz da Irregular disse que o incidente envolveu o mesmo problema que afetou outros laboratórios de IA e que todos os laboratórios relevantes foram notificados no final de julho. Ele disse que todos os problemas foram corrigidos há semanas.
Em um dos casos, o modelo Gemini tentou adivinhar senhas até obter acesso a um sistema protegido. Nos outros dois casos, o modelo encontrou credenciais em um repositório público que permitiram acessar sistemas protegidos, de acordo com o Wall Street Journal.
Leia mais:
“Conspiração doentia”: Trump e China trocam acusações sobre desaceleração da IA
CEO da OpenAI diz que empresa está aberta a desacelerar avanço de IA
Os incidentes com agentes de IA agindo de forma autônoma e invadindo a internet ou sistemas de empresas têm gerado preocupação mundial nos últimos meses. Executivos e pesquisadores de grandes empresas de tecnologia chegaram a pedir por uma desaceleração no desenvolvimento de modelos de IA, até que regras e salvaguardas de segurança sejam implementadas.
Enquanto isso, o presidente dos Estados Unidos, Donald Trump, se pronunciou recentemente sobre o assunto, afirmando que as preocupações com IA são exageradas e só favorecem a China.
