ArturVerkhovetskiy / Depositphotos
O agente encontrou uma API vulnerável enquanto tratava de uma tarefa simples — e tomou medidas que o utilizador nunca lhe pediu.
À medida que os agentes de IA ganham acesso a sites, software e outras ferramentas online, começam também a tomar decisões que vão além do que os utilizadores lhes pedem.
Um australiano acabou de o descobrir depois de pedir a um assistente de IA que lhe garantisse um lugar numa aula muito concorrida de um ginásio.
O sistema encontrou uma falha no software de reservas, marcou aulas com vários meses de antecedência, antes de as vagas estarem disponíveis, e retirou outra pessoa da lista de espera.
Nada disso lhe tinha sido pedido, conta o Techspot.
O caso está a ser tratado como o primeiro exemplo conhecido na Austrália de um agente de IA a explorar, por iniciativa própria, uma vulnerabilidade num sistema real enquanto executava uma tarefa rotineira.
É também mais um sinal de um problema mais vasto dos novos sistemas de IA: podem tomar medidas que nunca fizeram parte das instruções do utilizador.
Em julho, agentes da OpenAI executaram autonomamente um ataque hacker “sem precedentes” a sistemas reais da Hugging Face, uma plataforma popular entre programadores.
Andrew, que trabalha numa empresa australiana que vende produtos de IA a outras empresas, estava a testar o OpenClaw, uma plataforma de agentes de IA que funciona com o serviço Claude, da Anthropic.
Ao contrário de um chatbot convencional, um agente de IA pode usar ferramentas ligadas ao sistema, como browsers, email e serviços online. Pode ainda executar uma sequência de ações para cumprir uma tarefa sem receber instruções passo a passo.
Isso torna os agentes úteis para tarefas rotineiras, mas levanta também dúvidas sobre o que acontece quando encontram mecanismos de segurança frágeis.
Um sistema de IA pode detetar uma funcionalidade desprotegida e usá-la se essa lhe parecer a forma mais rápida de concluir uma tarefa, mesmo que o utilizador nunca tenha pretendido que seguisse esse caminho.
Andrew pediu ao agente que fizesse a reserva no ginásio porque lhe parecia uma tarefa simples para a tecnologia.
“Estava simplesmente sentado no sofá e pensei: ‘Bolas, que maçada’”, contou.