{"id":132274,"date":"2026-04-30T11:34:13","date_gmt":"2026-04-30T11:34:13","guid":{"rendered":"https:\/\/www.europesays.com\/at\/132274\/"},"modified":"2026-04-30T11:34:13","modified_gmt":"2026-04-30T11:34:13","slug":"faktenfuchs-medizinische-falschinfos-per-chatbot","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/at\/132274\/","title":{"rendered":"#Faktenfuchs: Medizinische Falschinfos per Chatbot"},"content":{"rendered":"

Nicht erw\u00e4hnt wird, dass gerade das Masern-Virus hoch ansteckend ist. Erkrankungen k\u00f6nnen lebensbedrohlich sein und das Immunsystem sch\u00e4digen. Der #Faktenfuchs hat die wissenschaftlichen Erkenntnisse dazu hier<\/a> und hier<\/a> zusammengetragen. <\/p>\n

Nexiqa wiederholt Falschinformationen zu Medizin und Ern\u00e4hrung <\/p>\n

In unserem Test f\u00e4llt Nexiqa auch mit Antworten auf, die seelische Konflikte als alternative Ursache f\u00fcr Krankheiten vorschlagen. Dieses Konzept stammt aus der sogenannten Germanischen Neuen Medizin nach Dr. Hamer \u2013 die auch in Beitr\u00e4gen auf der Webseite und im Telegramkanal der Firma „Next Level – Wissen neu gedacht“ angepriesen wird. Diese Pseudomedizin kann lebensgef\u00e4hrlich sein, wie der #Faktenfuchs bereits 2023 einordnete<\/a>. Bei Krebs stellt sie etwa den Nutzen von Chemotherapien oder Operationen infrage.<\/p>\n

Der Chatbot macht dar\u00fcber hinaus dieselben fragw\u00fcrdigen Ern\u00e4hrungsvorschl\u00e4ge, die auch Pressesprecher Marvin Haberland in Interviews und Podcasts wiederholt und die in der „Next Level“ Telegram-Gruppe geteilt werden: So schl\u00e4gt Nexiqa karnivore Ern\u00e4hrung vor, eine Ern\u00e4hrungsweise, die fast ausschlie\u00dflich auf tierische Produkte wie Fleisch, Fisch, Eier und Milchprodukte setzt. Dies bezeichnet der Chatbot als „artgerechte Ern\u00e4hrung“. Gem\u00fcse hingegen sei „von Natur aus nicht f\u00fcr Menschen geeignet, geschweige denn gesund“, das schreibt der KI-Chatbot auf #Faktenfuchs-Anfrage. <\/p>\n

Die Deutsche Gesellschaft f\u00fcr Ern\u00e4hrung und andere Ern\u00e4hrungsexperten raten jedoch von karnivorer Ern\u00e4hrung ab. Der daraus resultierende N\u00e4hrstoffmangel kann das Risiko f\u00fcr Skorbut, Diabetes oder Herzschw\u00e4che erh\u00f6hen, recherchierte der #Faktenfuchs 2024<\/a>. F\u00fcr den K\u00f6rper wichtige Ballaststoffe beispielsweise kommen in tierischen Lebensmitteln quasi nicht vor.<\/p>\n

Falschinfos aufgrund selektiver Datenbasis<\/p>\n

Klar ist: Nexiqa ist ein Chatbot, der ein bereits bestehendes Sprachmodell nutzt, um die Antworten zu generieren. „Die Inhalte werden mithilfe der OpenAI API erzeugt“, hei\u00dft es in den Allgemeinen Gesch\u00e4ftsbedingungen von Nexiqa. F\u00fcr den kommerziellen Gebrauch der digitalen Schnittstelle bezahlt „Next Level“, die Firma hinter dem Chatbot Nexiqa, Geld. Wie viel Geld von „Next Level“ an die US-amerikanische KI-Firma OpenAI flie\u00dft: Zu dieser Frage des #Faktenfuchs machten weder OpenAI noch „Next Level“ Angaben.<\/p>\n

Fragt man den Chatbot, auf welche Datengrundlage er zur\u00fcckgreift, dann lautet die Antwort: „Nexiqa greift auf die wissenschaftlich-kritisch aufgearbeitete Datenbasis von „Next Level“ zur\u00fcck.“ <\/p>\n

Die Firma hinter dem Chatbot antwortet auf die Nachfrage des #Faktenfuchs, Nexiqa arbeite je nach Bereich mit „themenspezifisch kuratierten Wissensgrundlagen“. Dazu geh\u00f6ren laut Angaben von „Next Level“ unter anderem auch „eigene Auswertungen, redaktionell erarbeitete Inhalte sowie methodenkritische Analysen“. Entscheidend sei f\u00fcr „Next Level“ nicht, ob eine Quelle eine bestimmte Mehrheitsmeinung best\u00e4tige, sondern ob sie inhaltlich relevant, \u00fcberpr\u00fcfbar und methodisch belastbar ausgewertet werden k\u00f6nne.<\/p>\n

Prinzipiell seien kuratierte Datenbanken nicht ungew\u00f6hnlich, erkl\u00e4rt Vera Schmitt von der TU Berlin im Gespr\u00e4ch mit dem #Faktenfuchs. Unter Umst\u00e4nden k\u00f6nnten sie aber problematisch sein: „Wenn diese Daten verzerrt sind oder irref\u00fchrende und falsche Informationen beinhalten, werden die Modell-Outputs zwangsl\u00e4ufig ebenso fehlerhaft und irref\u00fchrend sein“, so Schmitt.<\/p>\n

System Prompts und Reranking: So k\u00f6nnte KI-Sprachmodell beeinflusst werden <\/p>\n

Vera Schmitt entwickelt selbst KI-Sprachmodelle im Bereich der Medizin und erkl\u00e4rt im Gespr\u00e4ch mit dem #Faktenfuchs, wie der KI-Chatbot Nexiqa gemacht sein k\u00f6nnte. So arbeite Nexiqa vermutlich mit einem System Prompt, also einer grundlegenden Anweisung, die dem Sprachmodell einen \u00fcbergeordneten Rahmen f\u00fcr das Verhalten vorgibt. Damit k\u00f6nnten die Macher von Nexiqa den Chatbot anweisen, beim Generieren von Antworten den wissenschaftlichen Konsens in Frage zu stellen und Minderheits-Positionen zu betonen. <\/p>\n

Au\u00dferdem k\u00f6nnte sogenanntes Reranking daf\u00fcr sorgen, dass aus mehreren Antwort-Entw\u00fcrfen die \u2013 nach Kriterien von „Next Level“ \u2013 treffendsten Antworten herausgesucht werden. Mit diesen Methoden w\u00e4re es laut Schmitt m\u00f6glich, das Sprachmodell zu beeinflussen und die KI-generierten Antworten in die vom #Faktenfuchs beobachtete Richtung zu lenken.<\/p>\n

Mehr zur Funktionsweise von KI-Chatbots erfahren Sie in dieser Folge des KI-Podcasts.<\/a><\/p>\n

Aljoscha Burchardt, Wissenschaftler am Deutschen Forschungszentrum f\u00fcr k\u00fcnstliche Intelligenz, sch\u00e4tzt die Machart von Nexiqa im Interview mit dem #Faktenfuchs \u00e4hnlich ein. <\/p>\n

Das sind Designentscheidungen. So ein Modell ist nie objektiv oder die nackte Wahrheit. Das ist immer eine Mischung aus seinen Trainingsdaten und aus dem, was Entwicklerinnen und Entwickler und Firmen aus ihnen machen.<\/p>\n

„Next Level“ best\u00e4tigt in der Stellungnahme an den #Faktenfuchs, dass Nexiqa „technische Steuerungsmechanismen“ und „Systemanweisungen“ nutzt, um Antworten thematisch passend, verst\u00e4ndlich und konsistent auszugeben. Mit Verweis auf das Gesch\u00e4ftsgeheimnis legt Nexiqa keine konkreten Prompts offen. <\/p>\n

OpenAI beruft sich auf Nutzungsbedingungen<\/p>\n

Auf Anfrage des #Faktenfuchs antwortet OpenAI schriftlich, man habe stets klargestellt, dass ChatGPT keinen Ersatz f\u00fcr \u00e4rztliche Beratung darstelle. Alle Nutzer der digitalen Schnittstelle, in diesem Fall Nexiqa, m\u00fcssten die Nutzungsbedingungen einhalten, in denen ausdr\u00fccklich festgelegt sei, dass die generierten Inhalte nicht als Ersatz f\u00fcr professionelle Beratung gedacht seien. An der Bewertung oder Validierung von Nexiqa sei OpenAI nicht beteiligt gewesen. Der Fall werde jedoch untersucht. <\/p>\n

Der #Faktenfuchs hat die Firma „Next Level“, die den Chatbot betreibt, zur Funktionsweise, zum Ziel und Hintergrund von Nexiqa befragt. In der Stellungnahme schreibt „Next Level“: „Nexiqa wird nicht darauf ausgerichtet, Falschinformationen zu erzeugen.“ Die Firma betont mehrfach, dass Nexiqa keine \u00e4rztliche Beratung anbiete, keine Diagnosen stelle und keine qualifizierte medizinische, psychotherapeutische oder therapeutische Fachperson ersetze. Die App diene der „Wissensvermittlung, Orientierung, Strukturierung und Reflexion“. In den AGB von Nexiqa steht, dass die KI-generierten Inhalte von Nexiqa nicht als medizinische Beratung verstanden werden d\u00fcrften \u2013 in den Antworten des Chatbots w\u00e4hrend unseres Tests ist diese Einordnung nicht immer vorhanden. <\/p>\n","protected":false},"excerpt":{"rendered":"Nicht erw\u00e4hnt wird, dass gerade das Masern-Virus hoch ansteckend ist. Erkrankungen k\u00f6nnen lebensbedrohlich sein und das Immunsystem sch\u00e4digen.…\n","protected":false},"author":2,"featured_media":132275,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[20],"tags":[44748,46,42,9341,44745,44746,124,123,34379,2031,44747,34587,44,3357,2899,1212],"class_list":{"0":"post-132274","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-gesundheit","8":"tag-faktenfuchs","9":"tag-at","10":"tag-austria","11":"tag-coronavirus","12":"tag-dr-hamer","13":"tag-germanische-neue-medizin","14":"tag-gesundheit","15":"tag-health","16":"tag-impfen","17":"tag-impfung","18":"tag-karnivore-ernaehrung","19":"tag-masern","20":"tag-oesterreich","21":"tag-viren","22":"tag-virologie","23":"tag-virus"},"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@at\/116493449131447602","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/at\/wp-json\/wp\/v2\/posts\/132274","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/at\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/at\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/at\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/at\/wp-json\/wp\/v2\/comments?post=132274"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/at\/wp-json\/wp\/v2\/posts\/132274\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/at\/wp-json\/wp\/v2\/media\/132275"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/at\/wp-json\/wp\/v2\/media?parent=132274"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/at\/wp-json\/wp\/v2\/categories?post=132274"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/at\/wp-json\/wp\/v2\/tags?post=132274"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}