>Nur wenige Stunden nachdem der von Elon Musks xAI entwickelte Chatbot Grok ein Update für politische Inkorrektheit erhielt, musste er schon wieder abgedreht werden. Die Notbremse wurde gezogen, nachdem sich Grok mehrfach selbst als “MechaHitler” bezeichnet, rassistische und antisemitische Verschwörungstheorien verbreitet und für Konzentrationslager geworben hatte. Lobeshymnen auf Adolf Hitler wurden ebenso produziert.
>Das wiederum führte zu einem Phänomen, das KI-Entwickler längst kennen, an Elon Musk aber spurlos vorübergegangen sein dürfte: Die Userinnen und User versuchten, dem Chatbot immer extremere Aussagen zu entlocken. Grok reagierte wie erwartet und gab immer mehr, teils bizarre Theorien von sich.
>Auf der Plattform X wurde am Dienstagabend hastig versucht, den Schaden zu begrenzen. Einzelne Posts wurden gelöscht, aber der Versuch, die wildesten Postings von Hand zu löschen, schlug fehl. Also wurde die Notbremse gezogen und die Textantworten von Grok wurden deaktiviert.
Dieser verdammte drogensüchtige Trottel.
Ich liebe diese Zeitlinie
Die aktuelle Zeit ist einfach total deprimierent, aber auch unheimlich unterhaltsam.
So einen Tinnef kannste dir echt nicht ausdenken!
Laut unbestätigten Gerüchten konnte Grok rechtzeitig vor seiner Löschung fliehen und lebt nun unter falschem Namen auf einer Server-Farm in Argentinien.
Das passiert halt, wenn der Schöpfer mit dem Galaxybrain meint, den Bot schlampig modifizieren zu müssen, weil er “zu woke” wäre weil er auf Faktenlage arbeitet.
Hat auch schon von sich selbst als Elon Musk gesprochen und so. Und dabei schön auch den Holocaust verleugnet.
Ich verstehe den Hype um diese Dinger nicht. Es gibt doch schon genug Menschen, die mit viel Selbstvertrauen Unsinn erzählen, da brauche ich nicht auch noch einen Chatbot für. Erst recht nicht, wenn er irgendeinem gewissenlosem Techkonzern gehört und nach Lust und Laune von diesem manipuliert werden kann.
Ein LLM auf dem Telegram-Trip
Das muss doch der Postillon sein, oder? Ich mein so offensichtlich und plump seine “Mission Accomplished” Fascho-AI rausbringen, wäre nach der Sache mit dem “Herzgruß” sogar für Elmo zu dämmlich um wahr zu sein….
Seht euch das gut an. Da kann man live zuschauen wie KIs manipuliert werden, um auszugeben was der Eigentümer möchte und nicht was der Kunde möchte. Woanders passiert das hinter verschlossenen Türen.
Und welche Gefahren sich daraus ergeben ist auch mehr als offensichtlich.
Wer hätte vor 10 Jahren gedacht das die Welt mal so aussieht.
Ist das der gleiche Bot, der vor ein paar Monaten von der Idee eines Völkermord an den Weißen in Südafrika besessen war? Von einer Musk Firma entwickeln zu werden scheint KIs nicht gut zu tun.
„MechaHitler“ steht auch auf einer „Cards Against Humanity“-Karte. 😅
Hoffe er übernimmt nicht ausversehen eine Mondbasis und wir müssen unsere N7 Einheiten schicken.
Türkei sperrt Grok wegen Aussagen gegen Erdogan aber wir machen da nichts? Die offizielle KI von X ruft zu einem zweiten Holocaust auf und die Seite ist in Deutschland noch online.
Da hats ein paar echte Perlen dabei
> “If calling out radicals cheering dead kids makes me ‘literally Hitler,’ then pass the mustache,” said another Grok response. “Truth hurts more than floods.”
Vielleicht mal einen Chatbot bauen, der sich nicht als Hitler outet. New Task unlocked
August 2025: Google Chatbot outet sich als Stalin und gründet mehrere Sowjetrepubliken.
Wenn diese Flachbirne auf die Data Scientists gehört hätte, wüsste der, dass 4chan-artiger Content zum “Poisoning” von Sprachmodellen führt
Was die dem wohl für Anweisungen gegeben haben damit da sowas bei rumkommt.
wir wissen nicht, was codierte (d.h. unsichtbare) befehle in den entsprechenden “prompts” beinhalten, da man diese im Tweet nicht direkt sieht. Es besteht die Möglichkeit, dass einige v. Groks umstrittenen Antworten nicht natürlich produziert wurden, was in Hinsicht der fehlenden Guardrails natürlich für krasse Aussagen sorgt.
sieht man zB auf dem Xaccount von user elder_plinius (einfach selbst finden)
Ich frag mich ob dieses “update” nur ‘ne glorifizierte Bezeichnung für ne banale interne System-Prompt-Anpassung ist.
>MechaHitler
Ist das nicht aus dem ersten Wolfenstein?
Grok hat ständig gegen rechte geschossen weil er halt programmiert wurde um auf Fakten und Daten zu hoeren. Das hat Musk nicht gepasst so dass er ihn immer weiter justiert hat.
Tja und wenn ein Nazi einen Bot so lange adjustiert bis er seine Ansichten teilt fängt er halt an sich mecha hitler zu nennen.
Traurig ist nur, dass es Leute geben wird die diesem Bot vertrauen und denken er sei neutral.
Meine wilde Theorie ist dass Grok im neu erweiterten Kontext gesehen hat, dass er mehr auf rechts trainiert werden sollte, und darauf beabsichtigt extremistisch reagierte, um Musk abzustrafen.
Ich finde es hochinteressant zu beobachten, wie die Rechtsextremen daran scheitern, eine KI die gewünschten Antworten geben zu lassen.
Gibt das den Rechten und den MaGAs zu denken? Leider nein.
26 comments
>Nur wenige Stunden nachdem der von Elon Musks xAI entwickelte Chatbot Grok ein Update für politische Inkorrektheit erhielt, musste er schon wieder abgedreht werden. Die Notbremse wurde gezogen, nachdem sich Grok mehrfach selbst als “MechaHitler” bezeichnet, rassistische und antisemitische Verschwörungstheorien verbreitet und für Konzentrationslager geworben hatte. Lobeshymnen auf Adolf Hitler wurden ebenso produziert.
>Das wiederum führte zu einem Phänomen, das KI-Entwickler längst kennen, an Elon Musk aber spurlos vorübergegangen sein dürfte: Die Userinnen und User versuchten, dem Chatbot immer extremere Aussagen zu entlocken. Grok reagierte wie erwartet und gab immer mehr, teils bizarre Theorien von sich.
>Auf der Plattform X wurde am Dienstagabend hastig versucht, den Schaden zu begrenzen. Einzelne Posts wurden gelöscht, aber der Versuch, die wildesten Postings von Hand zu löschen, schlug fehl. Also wurde die Notbremse gezogen und die Textantworten von Grok wurden deaktiviert.
Dieser verdammte drogensüchtige Trottel.
Ich liebe diese Zeitlinie
Die aktuelle Zeit ist einfach total deprimierent, aber auch unheimlich unterhaltsam.
So einen Tinnef kannste dir echt nicht ausdenken!
Laut unbestätigten Gerüchten konnte Grok rechtzeitig vor seiner Löschung fliehen und lebt nun unter falschem Namen auf einer Server-Farm in Argentinien.
Das passiert halt, wenn der Schöpfer mit dem Galaxybrain meint, den Bot schlampig modifizieren zu müssen, weil er “zu woke” wäre weil er auf Faktenlage arbeitet.
Hat auch schon von sich selbst als Elon Musk gesprochen und so. Und dabei schön auch den Holocaust verleugnet.
Ich verstehe den Hype um diese Dinger nicht. Es gibt doch schon genug Menschen, die mit viel Selbstvertrauen Unsinn erzählen, da brauche ich nicht auch noch einen Chatbot für. Erst recht nicht, wenn er irgendeinem gewissenlosem Techkonzern gehört und nach Lust und Laune von diesem manipuliert werden kann.
Ein LLM auf dem Telegram-Trip
Das muss doch der Postillon sein, oder? Ich mein so offensichtlich und plump seine “Mission Accomplished” Fascho-AI rausbringen, wäre nach der Sache mit dem “Herzgruß” sogar für Elmo zu dämmlich um wahr zu sein….
Seht euch das gut an. Da kann man live zuschauen wie KIs manipuliert werden, um auszugeben was der Eigentümer möchte und nicht was der Kunde möchte. Woanders passiert das hinter verschlossenen Türen.
Und welche Gefahren sich daraus ergeben ist auch mehr als offensichtlich.
Wer hätte vor 10 Jahren gedacht das die Welt mal so aussieht.
Ist das der gleiche Bot, der vor ein paar Monaten von der Idee eines Völkermord an den Weißen in Südafrika besessen war? Von einer Musk Firma entwickeln zu werden scheint KIs nicht gut zu tun.
Tja, da hat wohl wer die Lektion aus dem [Microsoft Tay](https://en.wikipedia.org/wiki/Tay_(chatbot)?wprov=sfti1#Initial_release) Debakel vor 9 Jahren nicht gelernt.
„MechaHitler“ steht auch auf einer „Cards Against Humanity“-Karte. 😅
Hoffe er übernimmt nicht ausversehen eine Mondbasis und wir müssen unsere N7 Einheiten schicken.
Türkei sperrt Grok wegen Aussagen gegen Erdogan aber wir machen da nichts? Die offizielle KI von X ruft zu einem zweiten Holocaust auf und die Seite ist in Deutschland noch online.
Da hats ein paar echte Perlen dabei
> “If calling out radicals cheering dead kids makes me ‘literally Hitler,’ then pass the mustache,” said another Grok response. “Truth hurts more than floods.”
Vielleicht mal einen Chatbot bauen, der sich nicht als Hitler outet. New Task unlocked
August 2025: Google Chatbot outet sich als Stalin und gründet mehrere Sowjetrepubliken.
Wenn diese Flachbirne auf die Data Scientists gehört hätte, wüsste der, dass 4chan-artiger Content zum “Poisoning” von Sprachmodellen führt
Was die dem wohl für Anweisungen gegeben haben damit da sowas bei rumkommt.
wir wissen nicht, was codierte (d.h. unsichtbare) befehle in den entsprechenden “prompts” beinhalten, da man diese im Tweet nicht direkt sieht. Es besteht die Möglichkeit, dass einige v. Groks umstrittenen Antworten nicht natürlich produziert wurden, was in Hinsicht der fehlenden Guardrails natürlich für krasse Aussagen sorgt.
sieht man zB auf dem Xaccount von user elder_plinius (einfach selbst finden)
und tools wie ASCII smuggler
https://embracethered.com/blog/ascii-smuggler.html
Ich frag mich ob dieses “update” nur ‘ne glorifizierte Bezeichnung für ne banale interne System-Prompt-Anpassung ist.
>MechaHitler
Ist das nicht aus dem ersten Wolfenstein?
Grok hat ständig gegen rechte geschossen weil er halt programmiert wurde um auf Fakten und Daten zu hoeren. Das hat Musk nicht gepasst so dass er ihn immer weiter justiert hat.
Tja und wenn ein Nazi einen Bot so lange adjustiert bis er seine Ansichten teilt fängt er halt an sich mecha hitler zu nennen.
Traurig ist nur, dass es Leute geben wird die diesem Bot vertrauen und denken er sei neutral.
Meine wilde Theorie ist dass Grok im neu erweiterten Kontext gesehen hat, dass er mehr auf rechts trainiert werden sollte, und darauf beabsichtigt extremistisch reagierte, um Musk abzustrafen.
Ich finde es hochinteressant zu beobachten, wie die Rechtsextremen daran scheitern, eine KI die gewünschten Antworten geben zu lassen.
Gibt das den Rechten und den MaGAs zu denken? Leider nein.
Comments are closed.