Eine Künstliche Intelligenz als medizinscher Berater? Bereits jetzt stellen viele Menschen Gesundheitsfragen an KI-Chatbots im Internet. OpenAI hat in den USA ChatGPT Health gestartet. Die App soll Nutzern explizit zu medizinischen Fragen beraten. In Deutschland ist die Anwendung noch nicht verfügbar. Doch Fachleute warnen bereits vor den Risiken. Denn: Eine KI könne irreführende Inhalte liefern und beispielsweise Symptome falsch einordnen.
Dr. Karsten Braun, Vorsitzender der Kassenärztlichen Vereinigung Baden-Württemberg warnt: „Wir haben unsere Erfahrungen in den Praxen ja schon jetzt mit Dr. Google und ähnlichen, wo uns die Kollegen oft berichten, dass dadurch sehr schnell irgendwelche Über-Ängstlichkeiten entstehen oder Fehldiagnosen gestellt werden, die letzten Endes auch unnötige Arzt-Patienten-Kontakte aus unberechtigter Sorge herbeiführen können. Insofern denke ich, dass diese Anwendungen grundsätzlich kritisch zu sehen sind. Sie werden nie den Arzt-Patienten-Kontakt ersetzen. Sie sind aber gegebenenfalls ein sinnvolles Tool und werden ja im Übrigen auch in unseren Praxen bereits eingesetzt und werden dort eine zunehmende Bedeutung auch bekommen.“
Die geplante Anwendung ChatGPT Health verspricht außerdem, Daten aus Fitness-Apps oder elektronischen Patientenakten zu verknüpfen und verständlich aufzubereiten. Experten warnen jedoch davor, diese Gesundheitsdaten den US-amerikanischen Techfirmen preiszugeben.
„Also was ich Patienten auf jeden Fall im momentanen Status raten würde, wären denn solche Systeme bei uns verfügbar, ist doch große Vorsicht. Die Bedenken bestehen insbesondere hinsichtlich des Datenschutzes. Wir haben es in diesen Fällen zu tun mit sehr sensiblen Gesundheitsdaten.“, erklärt Dr. Karsten Braun.
Besonders kritisch sieht der Mediziner, dass die Gesundheitsdaten aus wirtschaftlichem Interesse ausgenutzt werden und letztenendes auch die Inhalte der Künstlichen Intelligenz verzerrt sein könnten.
„Man muss sich ganz klar darüber im Klaren sein, dass Gesundheitsdaten hochinteressant sind für Industrie, für Verkauf, für Versicherungen, für andere und man da einen guten Grund hat, sehr vorsichtig zu sein. Selbst wenn Anbieter versichern, die Informationen dafür nicht zu nutzen, ist es natürlich schon sehr fraglich, ob nicht zumindest die Verlockung groß ist“, sagt Dr. Karsten Braun und verdeutlicht: „Wenn Sie heute sich über Erkältung bei Wikipedia erkundigen, Ihnen nicht vielleicht dann doch morgen einmal Werbung für Erkältungsmittel anzubieten. Nur um einmal ein Beispiel zu sagen. Und das bietet natürlich schon auch zumindest theoretisch die Gefahr von verzerrten und aus anderen Interessen gesteuerten Informationen in diesen Systemen.“