Pela primeira vez, os investigadores da Google identificaram um grupo de cibercriminosos a utilizar uma vulnerabilidade zero-day desenvolvida com recurso a IA, indica o mais recente relatório do Threat Intelligence Group da empresa (GTIG).
Os investigadores da Google avançam que o mundo do cibercrime tem vindo a demonstrar interesse em tirar partido das capacidades da IA para o desenvolvimento de vulnerabilidades. Neste caso, a equipa identificou um conjunto de atacantes a colaborar no planeamento de uma campanha massiva de exploração de vulnerabilidades.
Não perca nenhuma notícia importante da atualidade de tecnologia e acompanhe tudo em tek.sapo.pt
A análise à campanha permitiu encontrar uma vulnerabilidade zero-day incorporada num script Python. A exploração da falha permitiria aos atacantes contornar os mecanismos de autenticação de dois factores numa ferramenta de administração de sistemas cujo nome não foi divulgado. O GTIG trabalhou com o fornecedor afetado para interromper as atividades maliciosas.
Embora acreditem que o Gemini não tenha sido utilizado, os investigadores chegaram à conclusão de que os atacantes terão recorrido a um modelo de IA para descobrir a vulnerabilidade.
Uma análise mais aprofundada permitiu encontrar várias pistas que apontam nesse sentido. Por exemplo, a equipa identificou padrões de texto que aparecem com frequência em dados usados para treinar modelos de IA, bem como uma pontuação CVSS baseada em alucinações.
Segundo o GTIG, a vulnerabilidade pode ser classificada com uma falha que permite contornar a autenticação de 2 factores, embora exija credenciais válidas. A falha não resulta de erros comuns de programação, mas sim de um erro mais profundo na lógica do sistema.
Enquanto as ferramentas tradicionais de análise procuram falhas técnicas ou erros no sistema, os modelos de IA mais avançados têm uma maior eficácia quando se trata de identificar este tipo de problemas, indicam os investigadores.
Embora ainda tenham dificuldades em interpretar sistemas empresariais de autorização mais complexos, estes modelos estão a melhorar na capacidade de perceber o contexto e a intenção dos programadores, o que permite detetar, por exemplo, contradições na forma como a autenticação de dois factores foi implementada, identificando erros que parecem corretos para as ferramentas tradicionais, mas que, na verdade, estão incorretos do ponto de vista da segurança.
Assine a newsletter do TEK Notícias e receba todos os dias as principais notícias de tecnologia na sua caixa de correio.