Des spécialistes en biosécurité chez Microsoft ont réussi à montrer qu’il est possible de contourner les systèmes de sécurité,
© Shutterstock
Des chercheurs en biosécurité chez Microsoft ont récemment montré que certains systèmes de sécurité utilisés par les fournisseurs d’ADN pouvaient être contournés. Ces logiciels sont conçus pour bloquer l’achat de séquences d’ADN susceptibles de servir à produire des toxines ou des agents pathogènes dangereux.
Publicité, votre contenu continue ci-dessous
Publicité
Une IA qui crée des toxines
L’équipe a illustré le potentiel de l’intelligence artificielle en générant des exemples allant d’un chien courant après une balle ou d’une mélodie à une séquence rappelant des protéines toxiques. Le 2 octobre, leurs travaux ont été publiés dans la revue Science, révélant des failles dans ces garde-fous logiciels.
Lorsqu’un laboratoire souhaite créer une protéine, il se tourne vers des sociétés spécialisées qui fournissent les séquences d’ADN nécessaires. Ces séquences sont ensuite insérées dans des cellules pour étudier leur fonctionnement. Pour prévenir toute utilisation dangereuse, les fournisseurs appliquent des logiciels capables de repérer si une commande ressemble à une toxine ou à un agent pathogène connu.
L’étude de Microsoft s’est concentrée sur les protéines générées par IA
© Shutterstock
L’étude de Microsoft s’est concentrée sur les protéines générées par IA, entièrement nouvelles et absentes des bases scientifiques. Ces outils, utilisés pour découvrir de nouveaux médicaments, présentent un double potentiel : ils peuvent servir à la recherche bénéfique, mais pourraient aussi être détournés pour créer des molécules dangereuses.
Bruce Wittmann, bio-ingénieur chez Microsoft, a utilisé l’IA pour créer des modèles de protéines imitant la ricine, la toxine botulique ou la bactérie Shiga. À partir de 72 protéines sélectionnées, plus de 70 000 séquences d’ADN alternatives ont été générées. Quatre systèmes de filtrage ont été testés : l’un a détecté 70 % des séquences suspectes, un autre en a raté plus de 75 %.
Après mises à jour, trois logiciels ont identifié en moyenne 72 % des séquences, dont 97 % des plus toxiques selon les modèles informatiques. Ces résultats montrent que l’IA peut produire des protéines potentiellement dangereuses que les filtres actuels ne détectent pas toujours.
Renforcer la sécurité : une priorité
Les chercheurs n’ont jamais commandé ni fabriqué ces protéines.Ils insistent sur la nécessité de renforcer les contrôles, car certaines entreprises ne filtrent pas leurs commandes. Jaime Yassif, de la Nuclear Threat Initiative, et James Diggens, de Twist Bioscience, rappellent que même si le nombre de personnes cherchant à créer des toxines reste très faible, la vigilance reste indispensable face aux capacités croissantes de l’IA.
Publicité, votre contenu continue ci-dessous
Publicité
Envie de faire encore plus d’économies ? Découvrez nos codes promo sélectionnés pour vous.