AUDIO: KI in der Medizin – Chancen und Risiken (2 Min)
Künstliche Intelligenz
Stand: 19.08.2026 17:00 Uhr
Künstliche Intelligenz könnte die Medizin grundlegend verändern. Sprachmodelle wie ChatGPT helfen bereits bei Arztbriefen, der Dokumentation oder der Auswertung medizinischer Informationen. Doch mit den neuen Möglichkeiten entstehen auch neue Risiken. Zu diesem Schluss kommt ein internationales Forschungsteam unter Leitung der TU Dresden in einer Übersichtsarbeit im Fachjournal Nature.
Die Wissenschaftlerinnen und Wissenschaftler haben zahlreiche Studien zu sogenannten Large Language Models (LLMs) ausgewertet. Dabei untersuchten sie, wie sicher diese Systeme im klinischen Alltag in Krankenhäuser und Arztpraxen sind, denn „ihre breite Anwendbarkeit bringt auch neue Verantwortlichkeiten, Schwachstellen und Bedrohungen mit sich“.
KI kann Wissen zugänglich machen und Ärzte entlasten
Die Studienlage belege laut den Forschenden aber auch das riesige Potenzial, dass KI „bereits in nahezu allen Bereichen des Gesundheitswesens“ gezeigt hat. Moderne Sprachmodelle können medizinisches Wissen zusammenfassen, Behandlungsleitlinien durchsuchen oder Ärztinnen und Ärzte bei der Dokumentation unterstützen. Gerade angesichts von Personalmangel und steigender Arbeitsbelastung könnten solche Systeme eine wichtige Hilfe werden.
Täuschend echte KI‑Röntgenbilder stellen die Medizin vor neue Fragen: Wie groß ist die Gefahr von Deepfakes für Patienten – und wo können synthetische Bilder Diagnostik, Forschung und Behandlung sogar verbessern?
Bereits heute werden KI-Systeme vielerorts genutzt, teilweise auch ohne offizielle Vorgaben oder ausreichende institutionelle Kontrolle. Das zeige, wie groß der Bedarf nach digitalen Assistenzsystemen im Gesundheitswesen inzwischen sei, schreiben die Autorinnen und Autorne.
Das Problem der „Halluzinationen“
Besonders kritisch sehen die Autoren ein Phänomen, das in der KI-Forschung als „Halluzination“ bezeichnet wird. Dabei erzeugt ein Sprachmodell Aussagen, die plausibel klingen, tatsächlich aber falsch sind. Solche Fehler könnten in der Medizin schwerwiegende Folgen haben, etwa wenn ein System eine nicht existierende Studie zitiert oder eine falsche Therapie empfiehlt.
Hinzu kommt: Die Antworten wirken häufig sprachlich überzeugend. Für Nutzerinnen und Nutzer ist deshalb oft schwer erkennbar, ob eine Aussage korrekt oder erfunden ist. Die Forschenden bezeichnen Halluzinationen deshalb als eine der größten Gefahren für den medizinischen Einsatz von KI.
Die neueste Generation Künstlicher Intelligenz dringt immer tiefer in unsere intimsten Lebensbereiche vor, sogar in die psychische Gesundheit. Die Doku zeigt, ob die KI das Zeug zum Psychotherapeuten hat.
Gefahr durch Manipulation und Cyberangriffe
Ein weiterer Schwerpunkt der Analyse sind Sicherheitsrisiken. Die Autoren beschreiben verschiedene Angriffsmöglichkeiten auf KI-Systeme. Dazu gehören manipulierte Trainingsdaten, versteckte Befehle in Texteingaben oder Angriffe auf die technische Infrastruktur von Krankenhäusern. Solche Manipulationen könnten dazu führen, dass Systeme falsche Empfehlungen ausgeben oder sensible Patientendaten preisgeben.
Die Studie verweist darauf, dass Gesundheitseinrichtungen bereits heute zu den häufigsten Zielen von Cyberangriffen gehören. Mit dem zunehmenden Einsatz von KI könnten zusätzliche Angriffsflächen entstehen.
Was bedeutet das für Ärztinnen und Ärzte?
Für Medizinerinnen und Mediziner sehen die Forschenden eine doppelte Herausforderung. Einerseits können Sprachmodelle Routineaufgaben übernehmen und so Zeit sparen. Andererseits dürfen Ärztinnen und Ärzte die Ergebnisse der Systeme nicht ungeprüft übernehmen.
Die Studie warnt vor sogenanntem „Automation Bias“. Damit ist die Tendenz gemeint, technischen Empfehlungen mehr zu vertrauen als dem eigenen Urteil. Gerade weil KI-Systeme sehr überzeugend formulieren, könnten Fehleinschätzungen leichter übersehen werden.
Die Autoren betonen deshalb, dass medizinische Entscheidungen auch künftig beim Menschen liegen müssen. KI könne unterstützen, dürfe aber die fachliche Verantwortung nicht ersetzen.
Was bedeutet das für Patientinnen und Patienten?
„LLMs sind bereits fester Bestandteil des klinischen Alltags und bieten sowohl medizinischem Fachpersonal als auch Patienten einen klaren Mehrwert“, schreiben die Forschenden. Für Patientinnen und Patienten eröffnet KI die Aussicht auf schnellere Abläufe, bessere Informationsverfügbarkeit und möglicherweise eine effizientere Versorgung. Kurz gesagt: Weniger Zeit im Wartezimmer. Sprachmodelle könnten außerdem helfen, medizinische Erkenntnisse schneller in den Alltag zu übertragen und Verwaltungsaufwand zu reduzieren.
Gleichzeitig bestehen Risiken durch fehlerhafte Antworten, versteckte Vorurteile in den Modellen oder Datenschutzprobleme. Die Forschenden fordern deshalb transparente Kontrollen, regelmäßige Sicherheitsprüfungen und eine klare Überwachung der eingesetzten Systeme.
Bundibugyo ist ein naher Verwandter von Ebola. Viele Menschen sterben an dem Virus, gegen das es noch keine Impfung gibt. In Leipzig arbeitet Clara Schoeder mithilfe von KI an Wirkstoffkandidaten.
Nach Ansicht der Autoren reicht es nicht aus, die Verantwortung allein den behandelnden Ärztinnen und Ärzten zu überlassen. Krankenhäuser und Gesundheitseinrichtungen müssten eigene Strukturen schaffen, um eingesetzte KI-Systeme kontinuierlich zu überwachen. Vorgeschlagen werden spezielle KI-Monitoring-Teams, regelmäßige Audits und verbindliche Sicherheitsstandards.
Ziel sind „vertrauenswürdige und robuste KI-Assistenzsysteme“
Die Dresdner Forschenden zeichnen ein differenziertes Bild: Sprachmodelle können die Medizin effizienter machen und Fachpersonal entlasten. Gleichzeitig entstehen neue Gefahren für Patientensicherheit, Datenschutz und klinische Entscheidungsprozesse. Ob KI künftig zum verlässlichen Helfer in Klinik und Praxis wird, hängt aus Sicht der Autoren vor allem davon ab, wie konsequent Risiken kontrolliert und Sicherheitsstandards umgesetzt werden, „um das Ziel präziser, vertrauenswürdiger und robuster LLM-basierter Assistenzsysteme in der Medizin zu erreichen“.
gp/tud