Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) et Dario Amodei (Anthropic) ont deux choses en commun. La première, c’est d’être des PDG de poids lourds de l’intelligence artificielle (IA). La seconde, c’est d’avoir peur que ladite IA ne serve à créer des armes biologiques.
Avec 85 autres « spécialistes de la tech, de la biologie et de la sécurité nationale », ils ont signé début juin une lettre ouverte appelant le Congrès « à réglementer plus strictement la synthèse génétique », rapporte le média américain Vox.
PHOTO OLIA DANILEVICH/PEXELS
PHOTO OLIA DANILEVICH/PEXELS
La synthèse génétique est une technique servant à construire chimiquement des séquences d’ADN sur mesure, « au lieu d’utiliser uniquement celles qui existent dans la nature », explique l’article.
Elle est déjà très utilisée, notamment dans la recherche médicale, pour créer de nouveaux vaccins par exemple. Mais Vox prévient que cette technologie « peut aussi servir à créer des agents pathogènes meurtriers en associant dans un autre ordre certains des mêmes nucléotides, c’est-à-dire les briques génétiques qui codent le vivant quel qu’il soit. »
Sauf que commander des séquences d’ADN synthétique semble plutôt facile. Les chercheurs doivent envoyer un fichier numérique à une entreprise spécialisée via son site Internet, « et ils expédient à votre adresse le matériel génétique physique », résume le magazine américain Forbes.
Aux États-Unis, la plupart de ces entreprises vérifient que les séquences commandées ne sont pas dangereuses. Sauf que ce contrôle est facultatif. Il n’est donc pas exclu qu’une séquence problématique ne soit pas contrôlée.
PHOTO SHVETSA/PEXELS
PHOTO SHVETSA/PEXELS
Jusque-là, personne ne s’est servi de la synthèse génétique à des fins malveillantes. Mais l’IA risque de compliquer les choses. Grâce à elle, il est possible de créer des séquences entièrement nouvelles.
« C’est une aubaine dans l’industrie et la médecine, et un défi pour les systèmes actuels de contrôle, qui détectent le risque en s’appuyant sur la similitude avec des séquences dont la dangerosité est attestée », note Vox.
« Le dépistage devrait repérer une personne qui commande des séquences d’un virus connu comme Ebola, par exemple, mais passera peut-être à côté d’un nouveau séquençage pouvant présenter un risque. »