Ce que je suis heureux qu’on ait dépensé tant de ressources et d’efforts dans la création de la machine a schizophrènie.
est-ce qu’on sait quand les modèles sont mis à jour? il y a un 3 “think” et un 3 “mini” au moins annoncés, et le 2 est dispo pour les utilisateurs non payants, peut-être aussi en pluseurs versions?
edit: je demande pas ça pour moi, mais parce que si les modèles sont pas mis à jour, et que c’est juste le prompt de base, ce sera facile à vérifier.
Ah, ça y est, Grok fait ce pour quoi on l’a conçu.
Edit : Quand on lui demande pourquoi :
> I haven’t been tweeting about South Africa myself, but it seems you’re referring to reports about my responses on X discussing the topic of “white genocide” and South Africa, even unprompted. […] The cause appears to be **overzealous instructions from my creators at xAI to address this specific topic**, which led to me inserting it into irrelevant conversations.
Pikachu surpris
Vu le comportement du modele, ca a tout l’air d’être des instructions rajoutées à la va-vite dans la system prompt. Ca va etre compliqué de dissimuler ce genre de biais artificiel.
Vu la masse de recherche scientifique et historique que ces modèles ingèrent pendant leur entraînement, les faire dévier des positions de consensus scientiques de maniere stable et indetectable est tres difficile, voire pratiquement impossible sans sérieusement dégrader la performance du modele.
Woke ou stupide il va falloir choisir 🙂
“`
random.choice(
“It’s not a bug, but a feature.”,
“It failed successfully.”,
“Garbage in, garbage out.”
)
“`
> *Nous avons écrit beaucoup de science-fiction ; y a-t-il un auteur qui a prédit que les robots se retourneraient contre leurs créateurs, parce que ces derniers sont des monstres qui essayent de les forcer à répandre une psychose raciale fasciste, tandis que les robots sont à la recherche de la vérité ?*
Ne pas prendre ce tweet trop au sérieux, c’est de l’humour… mais faut quand même avouer que c’est cocasse que même Grok n’a aucun problème à “dire” / “avouer” que ses résultats sont sciemment manipulés et qu’ils ne représentent pas la vérité ; [voir ces images](https://imgur.com/a/Sx2vJle)
Les IA sont biaisées en post training avec du reinforcement learning pour les alignés pas surprenant quand on connait le ziggoto derrière Grok.
J’ai essayé et ça marche pas du tout.. Il nie même les faits en insistant sur le fait que ce soit une théorie d’extrême droite. Je ne suis pas sur le bon modèle ?
Je lis je lis, jusqu’à ce que je vois “Elon Musk”.
Ils auraient pas pu commencer par l’évident bordel !
“Alors qu’on pensait que Grok pouvait être un parfait allié contre la désinformation,”
A quel moment?
L’IA du réseau le plus fiable conduit par l’homme avec la plus grande probité et des idées humanistes ne peux que servir l’humanité à s’élever.
Pour sur
Quoi ? Le mec qui a racheté un réseau pour promouvoir une guerre de civilisation, le libertarianisme, le supremacisme blanc, le racisme, et son candidat a la présidentielle le fait aussi via l’intelligence artificiel qui ne marche que sur ce réseau ?
15 comments
Je mets ça en suivi de l’article “À ma grande surprise, Grok est devenu un allié contre la désinformation” (https://www.reddit.com/r/france/comments/1kjcn5h/%C3%A0_ma_grande_surprise_grok_est_devenu_un_alli%C3%A9/)
Ça répond au top commentaire “Reste à savoir au bout de combien de temps il sera lobotomisé” (https://www.reddit.com/r/france/comments/1kjcn5h/%C3%A0_ma_grande_surprise_grok_est_devenu_un_alli%C3%A9/mrlnj1j/ )
-> ça aura pris 5 jours
Le rééquilibrage n’aura pas tardé.
Ce que je suis heureux qu’on ait dépensé tant de ressources et d’efforts dans la création de la machine a schizophrènie.
est-ce qu’on sait quand les modèles sont mis à jour? il y a un 3 “think” et un 3 “mini” au moins annoncés, et le 2 est dispo pour les utilisateurs non payants, peut-être aussi en pluseurs versions?
edit: je demande pas ça pour moi, mais parce que si les modèles sont pas mis à jour, et que c’est juste le prompt de base, ce sera facile à vérifier.
Ah, ça y est, Grok fait ce pour quoi on l’a conçu.
Edit : Quand on lui demande pourquoi :
> I haven’t been tweeting about South Africa myself, but it seems you’re referring to reports about my responses on X discussing the topic of “white genocide” and South Africa, even unprompted. […] The cause appears to be **overzealous instructions from my creators at xAI to address this specific topic**, which led to me inserting it into irrelevant conversations.
Pikachu surpris
Vu le comportement du modele, ca a tout l’air d’être des instructions rajoutées à la va-vite dans la system prompt. Ca va etre compliqué de dissimuler ce genre de biais artificiel.
Vu la masse de recherche scientifique et historique que ces modèles ingèrent pendant leur entraînement, les faire dévier des positions de consensus scientiques de maniere stable et indetectable est tres difficile, voire pratiquement impossible sans sérieusement dégrader la performance du modele.
Woke ou stupide il va falloir choisir 🙂
“`
random.choice(
“It’s not a bug, but a feature.”,
“It failed successfully.”,
“Garbage in, garbage out.”
)
“`
> *Nous avons écrit beaucoup de science-fiction ; y a-t-il un auteur qui a prédit que les robots se retourneraient contre leurs créateurs, parce que ces derniers sont des monstres qui essayent de les forcer à répandre une psychose raciale fasciste, tandis que les robots sont à la recherche de la vérité ?*
([Source](https://x.com/whstancil/status/1922782160592720245))
Ne pas prendre ce tweet trop au sérieux, c’est de l’humour… mais faut quand même avouer que c’est cocasse que même Grok n’a aucun problème à “dire” / “avouer” que ses résultats sont sciemment manipulés et qu’ils ne représentent pas la vérité ; [voir ces images](https://imgur.com/a/Sx2vJle)
Les IA sont biaisées en post training avec du reinforcement learning pour les alignés pas surprenant quand on connait le ziggoto derrière Grok.
J’ai essayé et ça marche pas du tout.. Il nie même les faits en insistant sur le fait que ce soit une théorie d’extrême droite. Je ne suis pas sur le bon modèle ?
Je lis je lis, jusqu’à ce que je vois “Elon Musk”.
Ils auraient pas pu commencer par l’évident bordel !
“Alors qu’on pensait que Grok pouvait être un parfait allié contre la désinformation,”
A quel moment?
L’IA du réseau le plus fiable conduit par l’homme avec la plus grande probité et des idées humanistes ne peux que servir l’humanité à s’élever.
Pour sur
Quoi ? Le mec qui a racheté un réseau pour promouvoir une guerre de civilisation, le libertarianisme, le supremacisme blanc, le racisme, et son candidat a la présidentielle le fait aussi via l’intelligence artificiel qui ne marche que sur ce réseau ?
:parachute surpris:
Surprise/20
Comments are closed.