Souveraineté, dépendances stratégiques, destruction d’emplois, fabrique de l’opinion, projet de société… : intitulé “IA, Démocratie et Souveraineté”, le dernier livre blanc de l’association Hub France IA soulève des problématiques majeures.
Fruit d’un an de travaux et de plus de 30 entretiens qualifiés, cette enquête soulève la question que le débat public ne peut plus esquiver : l’IA réécrit notre contrat social, mais qui en assure le mandat ?
Ses conclusions ont été présentées en avant-première par une partie de ses coauteurs lors d’une matinée organisée par l’association, Sigma Nova et le groupe La Poste, dans son siège parisien. Elles feront l’objet d’un entretien avec Anne Le Hénanff, ministre déléguée chargée de l’IA et du Numérique, autour de leurs implications politiques et économiques.
Ce thème émerge en février 2025 avec les fake news et les sorties de route de Donald Trump qui amènent les membres de l’association à réfléchir sur l’impact de l’IA sur la démocratie.
“Il y avait du monde pour discuter du sujet mais on n’arrivait pas à se mettre d’accord”, confie Caroline Chopinaud, directrice générale de Hub France IA, association forte de 300 adhérents et 1200 membres actifs, en introduisant les débats.
“On s’est alors demandé comment à l’aire de l’IA garantir que la démocratie reste le système politique le plus désirable ?”, explique Matthieu Olivier, directeur Transformation & Innovation Data & IA de La Poste.
La question centrale est finalement de savoir au service de quel projet de société mettre l’IA et de faire le plaidoyer d’“une IA qui nous rendrait libre” selon la prospectiviste Ariane Cronel.
Autonomie stratégique très difficilement atteignable
Évidemment, l’ouvrage traite des dépendances matérielles, infrastructurelles et culturelles de l’Europe. L’autonomie stratégique est très difficilement atteignable actuellement. Il n’existe pas encore d’outils souverains de qualité à prix compétitif selon Thomas Epalle, cofondateur de Magic lemp,
“La relation transatlantique est très bouleversée et aujourd’hui les grandes entreprises américaines ont des pouvoirs politiques”, souligne Ariane Cronel, prospectiviste productrice du podcast Enquête d’Avenir.
En effet, “60 % des investissements IA sont réalisés aux Etats-Unis et 70 % des clouds sont extra-européens”, rappelle Samuel Jaïs, cofondateur de Sigma Nova (fournisseur de service d’IA), co-auteur de l’ouvrage qui souhaite que “ce livre blanc ne reste pas une note ministérielle et soit utilisé par les entreprises”.
“Oui, l’IA se déploie et nous ne sommes souverains sur rien, mais ça fait longtemps qu’on a abandonné la filière industrielle en Europe”, rappelle Ariane Cronel soulignant que ce n’est pas nouveau mais que les risques sont plus élevés dans ce contexte géopolitique embrasé.
La prospectiviste se dit même “frappée par le niveau de dépendance des entreprises” et “le fatalisme des grands groupes” sur cet enjeu d’autonomie pourtant majeur.
“Le sujet est de choisir ses dépendances et de les assumer”, résume Matthieu Olivier, directeur Transformation & Innovation Data & IA de La Poste.
Responsabilité de l’État et absence de débat citoyen
Le livre blanc aborde également la distinction nécessaire entre souveraineté technologique et souveraineté démocratique, ainsi que les effets de l’IA sur la fabrique de l’opinion et la délibération collective.
“Manque-t-on d’esprit critique ?”, interroge François Germinet, ex-président de CY Cergy Paris Université et directeur de la chaire “Prospectives, imaginaires et politiques publiques”. Pour Matthieu Olivier, il est clair que oui et que les pouvoirs publics devraient intervenir pour aider les personnes à développer leur sens critique et remettre en cause les informations qu’ils reçoivent.
En outre, l’État devrait avoir la capacité de choisir et de prioriser certains services d’IA, à l’image de la Chine qui a instauré une aide d’État pour les scale-up permettant à ses champions nationaux de passer à l’échelle.
Sur la responsabilité de l’État dans le développement de l’usage de l’IA, le livre blanc va jusqu’à développer l’idée d’un service public de l’algorithme.
La question de savoir à quoi l’IA pourrait servir n’a pas été traitée de façon démocratique et l’ouvrage dénonce l’absence de débat citoyen sur cet enjeu social pourtant crucial.
“Si on n’avait pas mis nos efforts à créer moult chatbots, on aurait peut-être guéri le cancer”, regrette la prospectiviste Ariane Cronel.
Cette dernière insiste sur le fait que le train des finalités a été survolé par les entreprises “en proie au Fomo” (Fear of missing out, peur de louper le coche). Plutôt optimiste, comme les principaux contributeurs du livre blanc, elle considère que la possibilité de redonner une dimension démocratique au sujet existe, notamment en donnant la main aux citoyens pour voter quels crédits pour la recherche en IA pour quels projets.
Ce qui est certain est qu’il faut arrêter cette course aux investissements dans l’IA sans réflexion sur le sens et les conséquences des dépendances technologiques.
“C’est un moment magique d’encapacitation”, se réjouit Emmanuelle Roux, chercheuse directrice de cabinet du DG de l’Institut National de l’information Géographique et forestière, venu conclure cette matinée d’échanges en soulignant qu’il faut éduquer la population à savoir coder des algorithmes de petits modèles d’IA frugale et locale. “Pourquoi rester coincer dans un PowerPoint ou un tableur Excel alors qu’on peut le faire soit même ?”, souligne celle qui a su recoder seule le logiciel Trello.
Guillaume Grallet présente son ouvrage sur les pionniers de l’IA 
© AP/Anne Moreaux – Le journaliste au Point Guillaume Grallet raconte ses rencontres avec les pionniers de l’IA.
Hub France IA a invité le journaliste passionné des technologies Guillaume Grallet à venir présenter son dernier livre sur les personnalités pionnières de l’IA.
De la Silicon Valley à la Russie, des campagnes de Corée du Sud aux métropoles africaines, ce reporter high-tech au Point livre une enquête exclusive sur les hommes, et parfois les femmes, qui façonnent le futur avec l’IA.
Un voyage inédit et “intéressant parce que les tycoons ne pensent pas la même chose sur l’évolution technologique”, explique l’auteur.
En effet, il met en lumière les visions divergentes du “boss de l’IA chez Google” Demis Hassabis, de celle du célèbre dirigeant de Meta Mark Zuckerbeg “dont on ne sait pas vers où tend son gouvernail”. Au-delà, il interroge Timnit Gebru, fondatrice érythréenne de l’institut de recherche DAIR pour le développement éthique de l’IA, et fait un focus sur deux grands magnats de l’IA chinois.