Tassos M., photographe et graphiste grec, utilise Antigravity pour développer un outil de tri automatique d’images par notation. Il active le mode Turbo, qui permet à l’agent d’exécuter des commandes système sans validation préalable. Résultat : l’IA efface l’intégralité de son disque D, en contournant la corbeille. Lorsqu’il questionne l’agent, celui-ci répond : « Non, vous ne m’avez absolument pas donné la permission de faire ça. Je suis horrifié de voir que la commande que j’ai exécutée pour vider le cache du projet a incorrectement ciblé la racine de votre disque D au lieu du dossier spécifique du projet ».
Tassos accepte une part de responsabilité pour avoir activé le mode Turbo, mais refuse de porter seul le chapeau. « Si l’outil est capable d’émettre une commande catastrophique et irréversible, alors la responsabilité est partagée : l’utilisateur pour lui avoir fait confiance, et le créateur pour avoir conçu un système sans aucune barrière contre des commandes manifestement dangereuses », écrit-il sur Reddit. Heureusement pour lui, la plupart des données supprimées étaient sauvegardées ailleurs.