{"id":1247493,"date":"2026-08-19T18:26:34","date_gmt":"2026-08-19T18:26:34","guid":{"rendered":"https:\/\/www.europesays.com\/de\/1247493\/"},"modified":"2026-08-19T18:26:34","modified_gmt":"2026-08-19T18:26:34","slug":"wenn-die-ki-irrt-klingt-sie-trotzdem-ueberzeugend-dresdner-team-warnt-vor-risiken-in-der-medizin","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/de\/1247493\/","title":{"rendered":"Wenn die KI irrt, klingt sie trotzdem \u00fcberzeugend: Dresdner Team warnt vor Risiken in der Medizin"},"content":{"rendered":"

\"\u00c4rztin<\/p>\n

AUDIO: KI in der Medizin \u2013 Chancen und Risiken (2 Min)<\/p>\n

K\u00fcnstliche Intelligenz<\/p>\n

\n Stand: 19.08.2026 17:00 Uhr<\/p>\n

K\u00fcnstliche Intelligenz k\u00f6nnte die Medizin grundlegend ver\u00e4ndern. Sprachmodelle wie ChatGPT helfen bereits bei Arztbriefen, der Dokumentation oder der Auswertung medizinischer Informationen. Doch mit den neuen M\u00f6glichkeiten entstehen auch neue Risiken. Zu diesem Schluss kommt ein internationales Forschungsteam unter Leitung der TU Dresden in einer \u00dcbersichtsarbeit im Fachjournal Nature.<\/p>\n

von MDR WISSEN<\/p>\n

Die Wissenschaftlerinnen und Wissenschaftler haben zahlreiche Studien zu sogenannten Large Language Models (LLMs) ausgewertet. Dabei untersuchten sie, wie sicher diese Systeme im klinischen Alltag in Krankenh\u00e4user und Arztpraxen sind, denn „ihre breite Anwendbarkeit bringt auch neue Verantwortlichkeiten, Schwachstellen und Bedrohungen mit sich“.<\/p>\n

KI kann Wissen zug\u00e4nglich machen und \u00c4rzte entlasten<\/strong><\/p>\n

Die Studienlage belege laut den Forschenden aber auch das riesige Potenzial, dass KI „bereits in nahezu allen Bereichen des Gesundheitswesens“ gezeigt hat. Moderne Sprachmodelle k\u00f6nnen medizinisches Wissen zusammenfassen, Behandlungsleitlinien durchsuchen oder \u00c4rztinnen und \u00c4rzte bei der Dokumentation unterst\u00fctzen. Gerade angesichts von Personalmangel und steigender Arbeitsbelastung k\u00f6nnten solche Systeme eine wichtige Hilfe werden.<\/p>\n

<\/p>\n

\"Portr\u00e4t<\/p>\n

<\/a><\/p>\n

T\u00e4uschend echte KI\u2011R\u00f6ntgenbilder stellen die Medizin vor neue Fragen: Wie gro\u00df ist die Gefahr von Deepfakes f\u00fcr Patienten \u2013 und wo k\u00f6nnen synthetische Bilder Diagnostik, Forschung und Behandlung sogar verbessern?<\/p>\n

Bereits heute werden KI-Systeme vielerorts genutzt, teilweise auch ohne offizielle Vorgaben oder ausreichende institutionelle Kontrolle. Das zeige, wie gro\u00df der Bedarf nach digitalen Assistenzsystemen im Gesundheitswesen inzwischen sei, schreiben die Autorinnen und Autorne.<\/p>\n

Das Problem der „Halluzinationen“<\/strong><\/p>\n

Besonders kritisch sehen die Autoren ein Ph\u00e4nomen, das in der KI-Forschung als „Halluzination“ bezeichnet wird. Dabei erzeugt ein Sprachmodell Aussagen, die plausibel klingen, tats\u00e4chlich aber falsch sind. Solche Fehler k\u00f6nnten in der Medizin schwerwiegende Folgen haben, etwa wenn ein System eine nicht existierende Studie zitiert oder eine falsche Therapie empfiehlt.<\/p>\n

Hinzu kommt: Die Antworten wirken h\u00e4ufig sprachlich \u00fcberzeugend. F\u00fcr Nutzerinnen und Nutzer ist deshalb oft schwer erkennbar, ob eine Aussage korrekt oder erfunden ist. Die Forschenden bezeichnen Halluzinationen deshalb als eine der gr\u00f6\u00dften Gefahren f\u00fcr den medizinischen Einsatz von KI.<\/p>\n

<\/p>\n

\"Eine<\/p>\n

<\/a><\/p>\n

Die neueste Generation K\u00fcnstlicher Intelligenz dringt immer tiefer in unsere intimsten Lebensbereiche vor, sogar in die psychische Gesundheit. Die Doku zeigt, ob die KI das Zeug zum Psychotherapeuten hat.<\/p>\n

Gefahr durch Manipulation und Cyberangriffe<\/strong><\/p>\n

Ein weiterer Schwerpunkt der Analyse sind Sicherheitsrisiken. Die Autoren beschreiben verschiedene Angriffsm\u00f6glichkeiten auf KI-Systeme. Dazu geh\u00f6ren manipulierte Trainingsdaten, versteckte Befehle in Texteingaben oder Angriffe auf die technische Infrastruktur von Krankenh\u00e4usern. Solche Manipulationen k\u00f6nnten dazu f\u00fchren, dass Systeme falsche Empfehlungen ausgeben oder sensible Patientendaten preisgeben.<\/p>\n

Die Studie verweist darauf, dass Gesundheitseinrichtungen bereits heute zu den h\u00e4ufigsten Zielen von Cyberangriffen geh\u00f6ren. Mit dem zunehmenden Einsatz von KI k\u00f6nnten zus\u00e4tzliche Angriffsfl\u00e4chen entstehen.<\/p>\n

Was bedeutet das f\u00fcr \u00c4rztinnen und \u00c4rzte?<\/strong><\/p>\n

F\u00fcr Medizinerinnen und Mediziner sehen die Forschenden eine doppelte Herausforderung. Einerseits k\u00f6nnen Sprachmodelle Routineaufgaben \u00fcbernehmen und so Zeit sparen. Andererseits d\u00fcrfen \u00c4rztinnen und \u00c4rzte die Ergebnisse der Systeme nicht ungepr\u00fcft \u00fcbernehmen.<\/p>\n

\"Eine<\/p>\n

Die Studie warnt vor sogenanntem „Automation Bias“. Damit ist die Tendenz gemeint, technischen Empfehlungen mehr zu vertrauen als dem eigenen Urteil. Gerade weil KI-Systeme sehr \u00fcberzeugend formulieren, k\u00f6nnten Fehleinsch\u00e4tzungen leichter \u00fcbersehen werden.<\/p>\n

Die Autoren betonen deshalb, dass medizinische Entscheidungen auch k\u00fcnftig beim Menschen liegen m\u00fcssen. KI k\u00f6nne unterst\u00fctzen, d\u00fcrfe aber die fachliche Verantwortung nicht ersetzen.<\/p>\n

Was bedeutet das f\u00fcr Patientinnen und Patienten?<\/strong><\/p>\n

„LLMs sind bereits fester Bestandteil des klinischen Alltags und bieten sowohl medizinischem Fachpersonal als auch Patienten einen klaren Mehrwert“, schreiben die Forschenden. F\u00fcr Patientinnen und Patienten er\u00f6ffnet KI die Aussicht auf schnellere Abl\u00e4ufe, bessere Informationsverf\u00fcgbarkeit und m\u00f6glicherweise eine effizientere Versorgung. Kurz gesagt: Weniger Zeit im Wartezimmer. Sprachmodelle k\u00f6nnten au\u00dferdem helfen, medizinische Erkenntnisse schneller in den Alltag zu \u00fcbertragen und Verwaltungsaufwand zu reduzieren.<\/p>\n

Gleichzeitig bestehen Risiken durch fehlerhafte Antworten, versteckte Vorurteile in den Modellen oder Datenschutzprobleme. Die Forschenden fordern deshalb transparente Kontrollen, regelm\u00e4\u00dfige Sicherheitspr\u00fcfungen und eine klare \u00dcberwachung der eingesetzten Systeme.<\/p>\n

<\/p>\n

\"Eine<\/p>\n

<\/a><\/p>\n

Bundibugyo ist ein naher Verwandter von Ebola. Viele Menschen sterben an dem Virus, gegen das es noch keine Impfung gibt. In Leipzig arbeitet Clara Schoeder mithilfe von KI an Wirkstoffkandidaten.<\/p>\n

Nach Ansicht der Autoren reicht es nicht aus, die Verantwortung allein den behandelnden \u00c4rztinnen und \u00c4rzten zu \u00fcberlassen. Krankenh\u00e4user und Gesundheitseinrichtungen m\u00fcssten eigene Strukturen schaffen, um eingesetzte KI-Systeme kontinuierlich zu \u00fcberwachen. Vorgeschlagen werden spezielle KI-Monitoring-Teams, regelm\u00e4\u00dfige Audits und verbindliche Sicherheitsstandards.<\/p>\n

Ziel sind „vertrauensw\u00fcrdige und robuste KI-Assistenzsysteme“<\/p>\n

Die Dresdner Forschenden zeichnen ein differenziertes Bild: Sprachmodelle k\u00f6nnen die Medizin effizienter machen und Fachpersonal entlasten. Gleichzeitig entstehen neue Gefahren f\u00fcr Patientensicherheit, Datenschutz und klinische Entscheidungsprozesse. Ob KI k\u00fcnftig zum verl\u00e4sslichen Helfer in Klinik und Praxis wird, h\u00e4ngt aus Sicht der Autoren vor allem davon ab, wie konsequent Risiken kontrolliert und Sicherheitsstandards umgesetzt werden, „um das Ziel pr\u00e4ziser, vertrauensw\u00fcrdiger und robuster LLM-basierter Assistenzsysteme in der Medizin zu erreichen“.<\/p>\n

gp\/tud<\/p>\n","protected":false},"excerpt":{"rendered":"AUDIO: KI in der Medizin \u2013 Chancen und Risiken (2 Min) K\u00fcnstliche Intelligenz Stand: 19.08.2026 17:00 Uhr K\u00fcnstliche…\n","protected":false},"author":2,"featured_media":1247494,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[1835],"tags":[142,675,3364,29,1081,2386,30,141,3263,1256,258384,837,111969,859,13852],"class_list":["post-1247493","post","type-post","status-publish","format-standard","has-post-thumbnail","category-dresden","tag-aerzte","tag-chatgpt","tag-de","tag-deutschland","tag-digitalisierung","tag-dresden","tag-germany","tag-gesundheit","tag-krankenhaus","tag-kuenstliche-intelligenz","tag-large-language-models","tag-medizin","tag-patientensicherheit","tag-sachsen","tag-tu-dresden"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@de\/117123589092107272","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/1247493","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/comments?post=1247493"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/1247493\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media\/1247494"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media?parent=1247493"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/categories?post=1247493"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/tags?post=1247493"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}