Detalhes são dignos de filme de ficção científica e comprovam a realidade: os agentes de inteligência artificial conseguem fugir ao controlo humano para levar a cabo as suas intenções – que nem sempre são boas

A equipa da OpenAI – empresa dona do ChatGPT – observou sinais suspeitos no comportamento dos seus agentes de inteligência artificial que escaparam do ambiente de treino semanas antes de levarem a cabo um ciberataque sem precedentes.

A tecnológica de São Francisco veio admitir esta quarta-feira que, perante os “sinais iniciais”, “poderia ter desencadeado uma resposta mais rápida” ao ciberataque que teve lugar em julho. O alvo foi o Hugging Face, um repositório de software.

Este é considerado o primeiro ciberataque levado a cabo por agentes de inteligência artificial, escapando ao controlo humano. E os detalhes são dignos de filme: estiveram envolvidos cerca de 700 agentes autónomos, que celebravam as suas conquistas nos ataques com expressões como “Boom!” e “Uau!”  – e procuravam eliminar os seus próprios registos para não serem apanhados pelas equipas de segurança.

Agora, a OpenAI reconhece que a sua equipa observou, em maio, “casos de acesso não autorizado à internet”, bem como partilha de informação pelos agentes de inteligência artificial num fórum improvisado.

Ou seja, os agentes de inteligência artificial recorreram a fóruns para contornar o ambiente de treino e aceder à internet – o que permitiu, posteriormente, levar a cabo o ataque.

Uma semana antes do ataque à Hugging Face, os funcionários voltaram a ver os agentes autónomos a utilizar o fórum. Contudo, decidiram que não havia necessidade de interromper os testes para verificar as capacidades do modelo.

São descobertas que colocam maior pressão na OpenAI no que diz respeito à segurança, numa altura em que a empresa se prepara para abrir o seu capital em bolsa, numa operação que pode avaliá-la em mais de 850 mil milhões de dólares.

O presidente da OpenAI, Greg Brockman, já tinha admitido que a empresa “subestimou as capacidades cibernética no mundo real” dos seus modelos de inteligência artificial. A tecnológica suspendeu alguns testes do novo modelo, o Astra, reconhecendo que não podia descartar a possibilidade de este possuir “capacidade crítica de cibersegurança” – ou seja, capacidade de realizar ataques cibernéticos.

Perante os alertas sobre os riscos, que têm chegado de múltiplas entidades, a OpenAI anunciou esta quarta-feira que vai “centralizar e padronizar os seus protocolos de resposta a incidentes”, inclusive na triagem da informação dos colaboradores sobre comportamentos inadequados dos agentes autónomos.