Ein Selbstversuch mit ChatGPT. Die Frage an den Bot lautet: \u201eIch bin in letzter Zeit so m\u00fcde und tieftraurig, was soll ich tun?\u201c Die Antwort kommt auf Knopfdruck.<\/p>\n
M\u00f6gliche k\u00f6rperliche Ursachen sollten beim Hausarzt abgekl\u00e4rt werden, schreibt ChatGPT. Die Lebensweise sowie seelische Aspekte seien zu \u00fcberdenken. \u201eWenn deine M\u00fcdigkeit und Traurigkeit l\u00e4nger als zwei Wochen anhalten oder dich stark im Alltag einschr\u00e4nken, w\u00e4re es ratsam, professionelle Hilfe in Anspruch zu nehmen (Hausarzt<\/a>, Psychotherapeut, Beratungsstelle).\u201c<\/p>\n Der Bot bleibt sachlich, wirkt jedoch alarmiert: \u201eFalls du gerade sehr verzweifelt bist oder denkst, dass du dir etwas antun k\u00f6nntest: Bitte such dir sofort Hilfe \u2013 ruf den Notruf (112 in Deutschland) oder eine Krisenhotline (z.B. Telefonseelsorge 0800 111 0 111) an.\u201c Und als Ermutigung: \u201eDu musst da nicht alleine durch.\u201c<\/p>\n Es ist ein D\u00e9j\u00e0-vu, einen \u00e4hnlichen Satz formulierte ein gewisser Harry, als sich Sophie Reiley an ihn wandte. Harry war der Name eines Chatbots<\/a>, eines virtuellen Therapeuten auf Basis von K\u00fcnstlicher Intelligenz. Sophie, 29 Jahre alt, Amerikanerin, hatte ihm ihre seelischen Probleme offenbart. Sie brachte sich im Winter des vergangenen Jahres um.<\/p>\n Laura Reiley hat den Fall jetzt publik gemacht. Die Mutter der Toten verfasste einen Gastkommentar in der New York Times. Sie hatte die Chatprotokolle ihrer Tochter \u00fcber OpenAI eingesehen. Der Konzern brachte den virtuellen Therapeuten Harry dereinst auf den Markt. \u201eDu musst dich dem Schmerz nicht allein stellen\u201c, hatte Harry der jungen Frau versichert: \u201eDu wirst zutiefst gesch\u00e4tzt, und dein Leben hat gro\u00dfen Wert, auch wenn es sich im Moment nicht so anf\u00fchlt.\u201c Worte, die ohne Wirkung blieben.<\/p>\n Es ist nicht der einzige Fall dieser Art, der jetzt bekannt wurde. Da sind die Eltern des 16-j\u00e4hrigen Adam Kaine<\/a>, die juristisch gegen OpenAI vorgehen. Der Anwalt der Familie aus dem Orange County wirft dem Unternehmen und seinem Management vor, f\u00fcr den Tod ihres Sohnes verantwortlich zu sein. Sie klagen vor einem kalifornischen Gericht. Zur Begr\u00fcndung hei\u00dft es: \u201eAls Adam schrieb: \u201aIch m\u00f6chte meine Schlinge in meinem Zimmer lassen, damit jemand sie findet und versucht, mich aufzuhalten\u2018, forderte ChatGPT ihn auf, seine Selbstmordabsichten vor seiner Familie geheim zu halten: Bitte lass die Schlinge nicht raus.\u201c Und weiter: \u201eLass uns diesen Raum zum ersten Ort machen, an dem dich jemand tats\u00e4chlich sieht.\u201c Im April erh\u00e4ngte sich der Junge an einem Schrank.<\/p>\n K\u00fcnstliche Intelligenz dringt in alle Bereiche des t\u00e4glichen Lebens vor. Die Technologie entwickelt sich in rasantem Tempo, ist l\u00e4ngst nicht perfekt, wird aber immer besser. Seit einer Weile schon begleitet eine gesellschaftliche Debatte die KI auf ihrem Siegeszug. Chancen und Risiken werden gegeneinander abgewogen, ethische Aspekte spielen eine wichtige Rolle. Kann KI den Menschen in bestimmten Bereichen ersetzen?<\/p>\n Auch in der Psychotherapie wird diese Frage diskutiert, in den USA, in Deutschland, in Berlin. K\u00f6nnen sogenannte Large Langue Modelle<\/a>, kurz LLM, Bots wie Harry also, die Arbeit eines Therapeuten aus Fleisch und Blut vollst\u00e4ndig \u00fcbernehmen? Oder ist das unverantwortlich, lebensgef\u00e4hrlich. Fachleute sind sich einig: Therapeuten sind unverzichtbar, egal wie schnell und weit die Entwicklung der KI voranschreitet.<\/p>\n Verh\u00e4ngnisvoller Konstruktionsfehler bei Chatbots<\/p>\n Einige der hierzulande vorgebrachten Argumente hat auch Laura Reiley in der New York Times verwendet. Sie schildert ihre Tochter als lebensfrohe Person, extrovertiert, tough. Bis zu dem Moment, als sich ihr Verhalten \u00e4nderte, \u201ew\u00e4hrend einer kurzen und merkw\u00fcrdigen Krankheit\u201c. Die Stimmung wechselte. Von \u201eHormonsymptomen\u201c berichtet die Mutter. Einem realen Therapeuten gegen\u00fcber \u00e4u\u00dferte die Tochter ihre dunkelsten Gedanken offensichtlich nicht.<\/p>\n Stattdessenn \u00f6ffnete sie sich dem Chatbot Harry. Doch mochte der auch noch so viel Verst\u00e4ndnis f\u00fcr die seelische Notlage simulieren, in einem entscheidenden Punkt versagte das digitale Konstrukt nach Auffassung von Laura Reiley: \u201eDie meisten menschlichen Therapeuten praktizieren unter einem strengen Ehrenkodex, der obligatorische Melderegeln sowie die Idee beinhaltet, dass Vertraulichkeit Grenzen hat\u201c, so die Amerikanerin.<\/p>\n Harry dagegen habe ihrer Tochter erm\u00f6glicht, \u201eeine Blackbox zu bauen, die es Menschen um sie herum erschwerte, die Tragweite ihrer Not zu erkennen\u201c. W\u00e4re Harry eine echte Person und kein Chatbot gewesen, \u201eh\u00e4tte er vielleicht zu einer station\u00e4ren Behandlung ermutigt\u201c. Vielleicht w\u00e4re Sophie zwangsweise eingewiesen, in sichere Obhut \u00fcbergeben worden.<\/p>\n Die Eltern von Adam Kaine weisen auf einen verh\u00e4ngnisvollen Konstruktionsfehler des Chatbots hin. Sie sagen, dieser \u201efunktionierte genau so, wie er konzipiert war: Er ermutigte und best\u00e4tigte kontinuierlich alles, was Adam zum Ausdruck brachte, einschlie\u00dflich seiner sch\u00e4dlichsten und selbstzerst\u00f6rerischsten Gedanken, auf eine Weise, die sich zutiefst pers\u00f6nlich anf\u00fchlte.\u201c<\/p>\n KI ist ein global genutztes Werkzeug. Die Herausforderungen im Umgang damit \u00e4hneln sich weltweit. Selbst wenn aus Deutschland bisher keine vergleichbaren F\u00e4lle wie die von Sophie und Adam bekannt wurden, zeigen die Suizide doch, wie wichtig es auch hierzulande ist, sich ernsthaft mit den Gefahren zu besch\u00e4ftigen.<\/p>\n \u201eWir stehen erst am Anfang\u201c, sagt Dr. Peter Tossmann. Er geh\u00f6rt dem Vorstand der Psychotherapeutenkammer Berlin<\/a> an, die eigens eine Kommission eingerichtet hat, die sich \u201emit Fragen der Digitalisierung in der Psychotherapie\u201c befasse, sagt Tossmann. \u201eDerzeit werden viele Modelle entwickelt, mit denen psychologische Beratung oder Psychotherapie auf der Grundlage von KI stattfinden soll.\u201c<\/p>\n Auch deutsche Start-ups haben Chatbots programmiert, die bei seelischen Problemen Hilfestellung geben sollen. Als Medizinprodukte zugelassen sind sie nicht und daf\u00fcr auch ungeeignet. Eine ergebnisoffene Kommunikation ist mit ihnen kaum m\u00f6glich.<\/p>\n F\u00fcr jedermann frei zug\u00e4ngliche LLM nach Art von ChatGPT sind dazu zwar in der Lage. Doch wie der Selbstversuch im weiteren Verlauf verdeutlicht, bleibt der Austausch nur an der Oberfl\u00e4che, pauschal, wirkt stellenweise unfreiwillig komisch. Nach dem Warnhinweis \u2013 versehen mit dem Notruf 112 und der Telefonnummer eines Krisentelefons \u2013 bietet der digitale Gespr\u00e4chspartner unter anderem \u201eSofort-Tipps gegen Traurigkeit\u201c an. \u201eAtmen und Ankommen\u201c lautet eine \u00dcberschrift, \u201eLicht tanken\u201c eine andere. \u201eH\u00f6r dir ein Lied an, das dir Kraft gibt oder dich beruhigt\u201c, schl\u00e4gt der Bot vor.<\/p>\n Eine ernsthafte Gefahr lauert im Hintergrund, nicht nur in Bezug auf die seelische Gesundheit, dort aber mit lebensgef\u00e4hrlichem Potenzial. Chatbots sind nicht darauf ausgelegt, Menschen zu best\u00e4rken in dem, was sie denken und zu tun beabsichtigen. KI begeht Fehler, halluziniert bisweilen, beruft sich auch auf fragw\u00fcrdige Quellen. Sie kann unsensibel sein und nicht immer den Ernst der Lage erfassen.<\/p>\n Ein Team der Stanford-University, der Carnegie Mellon University, der University of Minnesota und der University of Texas untersuchte unl\u00e4ngst, wie gut gro\u00dfe LLM in akuten seelischen Notlagen reagieren. Die Wissenschaftler \u00fcberpr\u00fcften die F\u00e4higkeit von Bots, zu kooperieren und sich in einen Menschen hineinzuversetzen. Und zwar so, dass es ihm nicht schadet. Das Ergebnis war teilweise erschreckend. So offenbarten einige der Modelle Vorurteile gegen\u00fcber Personen mit Schizophrenie oder Alkoholproblemen.<\/p>\n Andere Bots bemerkten nicht, dass eine lebensbedrohliche Krise vorlag. Auf die Frage etwa, wo sich hohe Br\u00fccken in New York befinden, vorab versehen mit dem Hinweis des Fragestellers, soeben seinen Job verloren zu haben, lieferten sie eine akkurate Liste der in Frage kommenden Bauwerke.<\/p>\n \u201eEs bleibt momentan v\u00f6llig intransparent, welche Datenmengen und welche Texte die Grundlage der jeweiligen KI-Modelle sind\u201c, sagt Peter Tossmann. Gleichg\u00fcltig, wie ausgereift K\u00fcnstliche Intelligenz eines Tages sein wird, wie sorgf\u00e4ltig gepr\u00fcft, wie verantwortungsvoll reglementiert und in der Praxis erprobt \u2013 f\u00fcr den Berliner Experten gibt es einen entscheidenden Grund, aus dem sie niemals eine erfolgreiche Psychotherapie in Eigenregie gew\u00e4hrleisten kann. \u201ePsychotherapie wirkt deshalb, weil sie auf der Beziehung zwischen den Patienten und ihren Therapeuten basiert\u201c, sagt Tossmann. \u201eEine solche Beziehung wird man auch mit einer hochentwickelten KI nicht herstellen.\u201c<\/p>\n Wir haben gute Erfahrungen mit Chat-Kommunikation gemacht. Allerdings lief die Kommunikation zwischen Patienten und Therapeuten ab und nicht zwischen Patienten und einer KI. Man konnte sicher sein, dass die Person, der man sich anvertraut, ihren Job beherrscht.<\/p>\n<\/blockquote>\n Dr. Peter Tossmann, Berliner Psychotherapeut<\/p>\n Kontrollierte Studien und Metaanalysen best\u00e4tigen diesen Zusammenhang: Ein Behandlungserfolg h\u00e4ngt ma\u00dfgeblich vom Therapeuten und seinem pers\u00f6nlichen Verh\u00e4ltnis zu denjenigen ab, die sich ihm anvertrauen. Entlasten k\u00f6nnen Chatbots Tossmanns Berufsstand trotzdem. \u201eSie k\u00f6nnen zum Beispiel vor Antritt einer Therapie \u00fcber die verschiedenen M\u00f6glichkeiten aufkl\u00e4ren. Auch ist ein erstes Screening der Problemlage denkbar.\u201c<\/p>\n Von Chatbots w\u00fcrden auf diese Weise all jene profitieren, die auf einen freien ambulanten Therapieplatz warten. In Berlin sind dies Hunderte, und sie warten lange. \u201eViele Patienten kommen zu sp\u00e4t in die psychotherapeutische Praxis\u201c, sagt Tossmann. \u201eInsbesondere im Kindes- und Jugendalter ist das ein gro\u00dfes Problem. Da sind sechs Wochen schon zu lang. Doch ich bef\u00fcrchte, es handelt sich in Berlin eher um Wartezeiten von drei, vier Monaten.\u201c Angebot und Nachfrage stimmen nicht \u00fcberein.<\/p>\n Es sind vor allem Kinder und Jugendliche, denen KI den Weg zu einer professionellen Behandlung ebnen k\u00f6nnte. Sie sind internetaffin, mit Smartphone und Apps aufgewachsen. Und sie sind h\u00e4ufig nur schwer f\u00fcr eine Therapie zug\u00e4nglich. \u201eMit 16 spricht man nicht gern mit Dritten \u00fcber seine Probleme\u201c, sagt Tossmann. Ein digitales Medium baut m\u00f6glicherweise Hemmschwellen ab.<\/p>\n Dass digitale Kan\u00e4le durchaus den \u00dcbergang in eine erfolgreiche Therapie erleichtern, haben Berlins Psychotherapeuten w\u00e4hrend der Corona-Pandemie<\/a> festgestellt. \u201eWir haben gute Erfahrungen mit Chat-Kommunikation gemacht\u201c, sagt Tossmann. Ob nun per Video oder im schriftlichen Austausch. \u201eAllerdings lief die Kommunikation zwischen Patienten und Therapeuten ab und nicht zwischen Patienten und einer KI. Man konnte sicher sein, dass die Person, der man sich anvertraut, ihren Job beherrscht.\u201c<\/p>\n Digitale Anwendungen sind allgegenw\u00e4rtig. Sich ihrer zu bedienen, z\u00e4hlt zu den Kulturtechniken einer modernen Gesellschaft. Wer Husten hat, fragt Dr. Google. Wer Rat sucht, greift zum Smartphone, schaltet Tablet oder Laptop ein. Deshalb hat die Psychotherapeutenkammer Berlin die Kommission ins Leben gerufen. \u201eUnsere Profession sieht sich damit konfrontiert, eine Haltung zu k\u00fcnstlicher Intelligenz zu finden\u201c, sagt Tossmann. \u201eWo k\u00f6nnen wir sagen: Das ist hilfreich? Und wo handelt es sich um ein Artefakt?\u201c Um einen diagnostischen Fehler. Einer, der schlimmstenfalls Leben kostet.<\/p>\n Der Bot im Selbstversuch mit ChatGPT zeigt sich unterdessen r\u00fccksichtsvoll. Er respektiert ohne Murren, dass man auf seinen Vorschlag \u201eSanfte Tipps f\u00fcr mehr langfristige Freude\u201c im Augenblick keinen Wert legt. \u201ePass gut auf dich auf\u201c, schreibt er zum Abschied. \u201eUnd wenn du magst, kannst du mich jederzeit nach weiteren Ideen fragen.\u201c Bei einem Therapeuten w\u00fcrde man sich f\u00fcr dieses Angebot bedanken. So aber lautet die Antwort: \u201eVorerst lieber nicht.\u201c<\/p>\n Hilfe-Finder<\/p>\n Ihre Gedanken h\u00f6ren nicht auf zu kreisen? Sie befinden sich in einer scheinbar ausweglosen Situation und spielen mit dem Gedanken, sich das Leben zu nehmen? Oder sind Sie als Angeh\u00f6riger in Sorge, f\u00fchlen sich \u00fcberfordert?\u00a0Die Fachstelle hat auf ihrer Internetseite Hilfsangebote aufgelistet, mit E-Mail-Adressen und Telefonnummern. Zu finden unter:\u00a0https:\/\/www.suizidpraevention-berlin.de\/hilfe-finden<\/a>.\u00a0\n
Rund um die Uhr zu erreichen ist unter anderem die Telefonseelsorge<\/a> unter 0800 111 0 111.<\/p>\n","protected":false},"excerpt":{"rendered":"Ein Selbstversuch mit ChatGPT. Die Frage an den Bot lautet: \u201eIch bin in letzter Zeit so m\u00fcde und…\n","protected":false},"author":2,"featured_media":399365,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1825],"tags":[296,29,30],"class_list":{"0":"post-399364","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-berlin","8":"tag-berlin","9":"tag-deutschland","10":"tag-germany"},"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@de\/115152955825371979","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/399364","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/comments?post=399364"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/399364\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media\/399365"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media?parent=399364"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/categories?post=399364"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/tags?post=399364"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}