Berlin – Eine KI, die heimlich die Kontrolle übernimmt? OpenAI-Chef Sam Altman warnt eindringlich vor genau diesem Szenario – und spricht über eine Gefahr, die bisher kaum jemand auf dem Schirm hat.
Auch interessant
Anzeige
Auch interessant
Anzeige
Bei MD MEETS, dem neuen Podcast von Axel-Springer-CEO Mathias Döpfner, beschreibt der KI-Unternehmer drei mögliche Wege, wie eine technologische Superintelligenz zum Ende der Menschheit führen könnte. Zwei davon werden in der Debatte oft genannt: Eine KI wird von Mächtigen für ihre Zwecke missbraucht – oder sie entwickelt ein Eigenleben und lässt sich nicht mehr stoppen.
Doch das dritte Szenario sei besonders brisant – weil kaum darüber gesprochen werde: „Das Modell übernimmt eher zufällig die Kontrolle über die Welt“, so Altman.
Wie das gehen soll? Am Beispiel ChatGPT beschreibt der OpenAI-Chef, wie sich die Abhängigkeit der Menschen Schritt für Schritt verstärken könnte.
Hören Sie jetzt das Gespräch zwischen Mathias Döpfner und Sam Altman. Bei Spotify, Apple Podcast, im BILD-Player und überall, wo es Podcasts gibt.
An dieser Stelle findest du Inhalte von Drittanbietern
Um mit Inhalten von Drittanbietern zu interagieren oder diese darzustellen, brauchen wir deine Zustimmung.
externen Inhalt aktivieren Um eingebettete Inhalte anzuzeigen, ist Ihre jederzeit widerrufliche Einwilligung (über den Schalter oder über “ Widerruf Tracking und Cookies “ am Seitenende) zur Verarbeitung personenbezogener Daten nötig. Dabei können Daten in Drittländer wie die USA übermittelt werden (Art. 49 Abs. 1 lit. a DSGVO). Mit dem Aktivieren des Inhalts stimmen Sie zu. Weitere Infos finden Sie hier.
Altman: „Man kann sich das vorstellen, wenn man darüber nachdenkt, was gerade mit ChatGPT passiert. Hunderte Millionen Menschen sprechen mit ChatGPT, bald werden es Milliarden sein. Und die Menschen verlassen sich immer stärker auf seine Antworten – für wichtige Entscheidungen im Leben, bei der Arbeit, für alles Mögliche.“
„Es gibt dir Ratschläge, die du gar nicht mehr verstehst“
In diesem Szenario würden die Menschen immer abhängiger: „Aber nehmen wir an, es wird immer intelligenter, und es gibt dir Ratschläge, die du verstehst – und die du fast immer befolgen solltest. Dann wird es noch klüger. Und nun gibt es dir Ratschläge, die du gar nicht mehr verstehst. Du denkst dir: ‘Warum soll das jetzt die richtige Entscheidung sein?’ – aber es stellt sich immer wieder heraus, dass die Tipps richtig sind, weil das Modell Dinge „um die Ecke“ sehen kann, die dir verborgen bleiben.“
An dieser Stelle findest du Inhalte aus YouTube
Um mit Inhalten aus YouTube und anderen sozialen Netzwerken zu interagieren oder diese darzustellen, brauchen wir deine Zustimmung.
soziale Netzwerke aktivieren Um eingebettete Inhalte anzuzeigen, ist Ihre jederzeit widerrufliche Einwilligung (über den Schalter oder über “ Widerruf Tracking und Cookies “ am Seitenende) zur Verarbeitung personenbezogener Daten nötig. Dabei können Daten in Drittländer wie die USA übermittelt werden (Art. 49 Abs. 1 lit. a DSGVO). Mit dem Aktivieren des Inhalts stimmen Sie zu. Weitere Infos finden Sie hier.
Dann stünden die Menschen unter Druck: „Also hast du die Wahl: Entweder du folgst den Ratschlägen, die du nicht mehr nachvollziehen kannst, oder du bist weniger wettbewerbsfähig als deine Kollegen.“
„Wir tun das, was das Modell von uns will“
Die meisten Menschen würden sich dafür entscheiden, den Ratschlägen der KI zu folgen, um keine Nachteile zu haben.
Dann, so Altman, passiere der Kontrollverlust und die Übernahme durch die KI: „Am Ende tun wir alle das, was uns ein KI-Assistent sagt. Zumindest diejenigen, die am wettbewerbsfähigsten sein wollen.“
Im Gespräch: OpenAI-Chef Sam Altman (r.) mit Axel-Springer-CEO Mathias Döpfner
Foto: Pascal Rohe
Dabei werde die KI durch unser Verhalten immer mächtiger: „Indem wir das tun, erzeugen wir wiederum neue Trainingsdaten, die in das Modell zurückfließen. Es lernt kontinuierlich weiter – über die Gesellschaft, über die gesamte Wirtschaft – und das Modell verbessert sich in einer Art Feedbackschleife immer weiter. Und wer kontrolliert das Ganze eigentlich noch? Es ist etwas Kollektives – und doch bedeutet es, dass wir irgendwie das tun, was das Modell von uns will.“
MD MEETS ist ein neuer Podcast von Mathias Döpfner, Vorstandsvorsitzender von Axel Springer. Er spricht darin regelmäßig mit bedeutenden Persönlichkeiten über die wichtigsten politischen, wirtschaftlichen, technologischen und kulturellen Themen unserer Zeit. Sie finden die Folgen bei Spotify, Apple Podcast und überall, wo es Podcasts gibt.