Un nouveau poste est à pourvoir chez OpenAI, l’entreprise derrière ChatGPT. Le salaire de 555 000 dollars par an a beau faire rêver, le directeur général Sam Altman prévient directement : « Ce poste sera stressant et vous plongera dans le grand bain presque immédiatement ».
C’est un « Responsable de la préparation » (« Head of preparedness ») qui est recherché par l’entreprise américaine basée à San Francisco. Le rôle est tout aussi difficile qu’important : la personne choisie sera chargée d’évaluer et atténuer les risques liés aux capacités de plus en plus avancées de l’IA, notamment pour la santé mentale humaine, la cybersécurité et les armes biologiques.
L’enjeu est de permettre de tirer profit des bénéfices majeurs de l’IA tout en empêchant ses usages abusifs.
« Nous entrons dans une phase où une compréhension et des outils de mesure plus fins sont nécessaires afin d’anticiper les usages abusifs possibles de ces capacités et de limiter leurs effets négatifs, tant dans nos produits que dans le monde réel, tout en permettant à chacun de bénéficier de leurs avantages considérables », explique Sam Altman sur X.
Les mises en garde contre l’évolution rapide de l’intelligence artificielle sont de plus en plus nombreuses. Mustafa Suleyman, le patron de Microsoft AI, déclarait récemment sur la BBC : « Honnêtement, je pense que si vous n’êtes pas un peu effrayé en ce moment, c’est que vous ne faites pas attention ». Le PDG de Google DeepMind, Demis Hassabis, évoque le risque d’IA pouvant « dérailler et nuire à l’humanité ».
Pour le moment, la régulation de l’intelligence artificielle, tant aux États-Unis que dans le reste du monde, reste limitée, laissant le soin aux entreprises du secteur de s’autoréguler.
Pour accéder à cet article, veuillez vous connecter au réseau internet.