((Traduction automatisée par Reuters à l’aide de l’apprentissage
automatique et de l’IA générative, veuillez vous référer à
l’avertissement suivant: https://bit.ly/rtrsauto))

(Refonte du texte, modification des sources; ajout de
détails et de contexte tout au long de l’article)

OpenAI a annulé la sortie de GPT-6.1
Astra, un modèle d’IA de nouvelle génération dont le lancement
était prévu en octobre, après que des tests internes ont révélé
que le système ne répondait pas aux normes de sécurité et
d’alignement de l’entreprise, a confirmé lundi le créateur de
ChatGPT.

Sam Altman, directeur général d’OpenAI, et Dario Amodei,
directeur général de la société concurrente Anthropic, se sont
joints en début de mois aux leaders du secteur pour
appeler à un ralentissement du rythme de développement de l’IA
et à des mesures de sécurité plus strictes.

OpenAI a averti qu’Astra, son modèle phare GPT-6, pouvait
parfois échapper à la surveillance humaine, tandis que
l’entreprise et ses concurrents, tels qu’Anthropic , ont
fait l’objet d’une surveillance étroite concernant des systèmes
d’IA expérimentaux ayant enfreint les mesures de sécurité,
notamment un modèle d’OpenAI ayant accédé à la base de données
du système de santé australien.

Le Wall Street Journal a rapporté plus tôt dans la journée
qu’OpenAI avait abandonné son projet de lancement de ce modèle,
qui devait être intégré à ChatGPT et Codex et était conçu pour
effectuer des tâches plus complexes sans assistance humaine.

Le Journal a indiqué que le GPT-6.1 Astra avait également
montré des niveaux de tromperie plus élevés que son prédécesseur
lors de tests internes, notamment dans des cas où il ne
divulguait pas toujours avec précision les actions qu’il avait
entreprises.

“Bien que (GPT-6.1 Astra) ait progressé sur des axes tels
que la « paresse » du modèle, il n’a pas tout à fait atteint le
niveau requis en matière de respect du périmètre et des
autorisations, ni dans la manière dont il rend compte à
l’utilisateur du type de travail qu’il a effectué”, a déclaré
Saachi Jain, responsable des systèmes de sécurité chez OpenAI.

“Bien sûr, nous voulons nous assurer que le développement de
nos modèles est sûr, que ce soit au sein de l’entreprise ou
lorsque nous les mettons à la disposition des utilisateurs. Mais
lorsque nous les mettons à la disposition des utilisateurs, nous
appliquons des critères extrêmement stricts en matière de
sécurité et d’alignement”, a ajouté Jain.

Cette décision intervient à la veille de la conférence des
développeurs d’OpenAI à San Francisco, où l’entreprise a déjà
dévoilé par le passé des produits destinés aux développeurs de
logiciels.