K\u00fcnstliche Intelligenz (KI) ist in aller Munde und in fast allen Lebensbereichen auf dem Vormarsch \u2013 auch auf dem weiten Feld der Gesundheitsversorgung. Medizinische Ger\u00e4te und Anwendungen, die KI-Methoden einsetzen, haben das Potential, die Lebensqualit\u00e4t von Patientinnen und Patienten zu verbessern. Mit der Integration von KI in die Patientenversorgung steigt jedoch das Risiko von Cyberangriffen, die nicht nur die Patientensicherheit gef\u00e4hrden, sondern auch die Arbeit von Rettungskr\u00e4ften und die Funktionst\u00fcchtigkeit von Medizinger\u00e4ten beeintr\u00e4chtigen k\u00f6nnen.<\/p>\n
Das Projekt \u201eSecureNeuroAI\u201c wird in den n\u00e4chsten drei Jahren vom Bundesministerium f\u00fcr Forschung, Transfer und Raumfahrt (BMFTR) mit fast 2,5 Millionen Euro gef\u00f6rdert. Es wird unter anderem darum gehen, Verfahren zur Datenauthentifizierung zu entwickeln, die die KI-Verarbeitung der Daten nicht beeintr\u00e4chtigen, aber dennoch einen Ursprungsnachweis dieser Informationen erlauben.<\/p>\n
Das Vorhaben wird von Prof. Dr. Elena Demidova koordiniert, Leiterin der Arbeitsgruppe \u201eData Science and Intelligent Systems\u201c (DSIS) der Universit\u00e4t Bonn, die ein Mitglied in den Transdisziplin\u00e4ren Forschungsbereichen \u201eModelling\u201c und \u201eSustainable Futures\u201c ist. Elena Demidovas Arbeitsgruppe bringt umfangreiche KI-Expertise in das Projekt ein. An dem Vorhaben beteiligt sind Prof. Dr. Michael Meier, Leiter der Arbeitsgruppe \u201eIT-Sicherheit\u201c am Institut f\u00fcr Informatik der Universit\u00e4t Bonn, Prof. Dr. Bj\u00f6rn Kr\u00fcger von der Klinik f\u00fcr Epileptologie des Universit\u00e4tsklinikums Bonn, Leiter der Arbeitsgruppe \u201ePersonalisierte digitale Gesundheit und Telemedizin\u201c, und Prof. Franziska Boehm vom FIZ Karlsruhe \u2013 Leibniz-Institut f\u00fcr Informationsinfrastruktur.<\/p>\n
Die Forschenden von \u201eSecureNeuroAI\u201c streben die Entwicklung sicherer, KI-gest\u00fctzter Methoden zur Echtzeiterkennung medizinischer Notf\u00e4lle am Beispiel epileptischer Anf\u00e4lle an. Die Erkennung basiert auf einer umfassenden Analyse und Erfassung multimodaler Sensordaten. Hierf\u00fcr werden beispielsweise tragbare elektronische Ger\u00e4te (\u201eWearables\u201c), die Vitalparameter wie Herz- und Atemfrequenz erfassen, sowie klinische Daten von Patienten genutzt.<\/p>\n
Cybersichere KI-Modelle<\/strong><\/p>\n Die gewonnenen Daten werden durch cybersichere KI-Modelle analysiert, welche Anf\u00e4lle erkennen und zuverl\u00e4ssig von potenziellen Datenmanipulationen unterscheiden sollen. Parallel dazu definiert das Projektteam technische, organisatorische und rechtliche Ma\u00dfnahmen, um die Einbindung dieser KI-Methoden in klinische und h\u00e4usliche Anwendungsf\u00e4lle zu unterst\u00fctzen.<\/p>\n Die Arbeitsgruppe von Prof. Dr. Elena Demidova von der Universit\u00e4t Bonn \u00fcbernimmt eine zentrale Rolle in der Entwicklung von KI-Methoden zur Authentifizierung von Daten sowie bei der Entwicklung von erkl\u00e4rbaren KI-Modellen zur Erkennung von Manipulationen und Anfallsereignissen. \u201eKI-Modelle werden durch Daten angetrieben und sind stark von ihnen abh\u00e4ngig, weshalb die Entwicklung von Schutzmechanismen wie Datenauthentifizierung und Manipulationserkennung von entscheidender Bedeutung ist\u201c, sagt Prof. Dr. Demidova. \u201eBesonders im Bereich der KI-gest\u00fctzten Erkennung medizinischer Notf\u00e4lle stellt die Manipulationserkennung eine gro\u00dfe Herausforderung dar \u2013 bedingt durch die Komplexit\u00e4t der relevanten Datenmuster und der begrenzten Datenverf\u00fcgbarkeit.\u201c<\/p>\n Das Universit\u00e4tsklinikum Bonn (UKB) \u00fcbernimmt eine zentrale Rolle bei der klinischen Validierung und Integration der entwickelten KI-Modelle. Als Anwendungspartner werden in der Klinik und Poliklinik f\u00fcr Epileptologie multimodale Daten zur Anfallserkennung systematisch erfasst und unter klinischen Bedingungen aufbereitet, um eine realit\u00e4tsnahe Datengrundlage f\u00fcr die KI-Modelle zu schaffen. \u201eK\u00fcnstliche Intelligenz wird in der Auswertung klinischer Daten eine immer gr\u00f6\u00dfere Rolle spielen\u201c, sagt Prof. Dr. Bj\u00f6rn Kr\u00fcger von der Klinik f\u00fcr Epileptologie des Universit\u00e4tsklinikums Bonn. \u201eGerade im Gesundheitsbereich, wo wir mit besonders sensiblen Patientendaten arbeiten, ist ein sicheres Systemdenken unerl\u00e4sslich \u2013 genau hier setzt das Projekt SecureNeuroAI an.\u201c<\/p>\n Die Arbeitsgruppe von Prof. Dr. Michael Meier von der Universit\u00e4t Bonn bringt umfangreiche Erfahrungen in aktuellen IT-Sicherheits-Forschungsthemen ein. \u201eAus Studien zur Cybersicherheit wissen wir, dass vernetzte Medizinprodukte selbst, insbesondere aber die begleitenden Infrastrukturen, Schwachstellen aufweisen, die unbemerkte Manipulationen von Sensordaten erm\u00f6glichen k\u00f6nnen\u201c, sagt Professor Meier, der auch Mitglied in den Transdisziplin\u00e4ren Forschungsbereichen \u201eModelling\u201c, \u201eIndividuals & Societies\u201c und \u201eSustainable Futures\u201c an der Universit\u00e4t Bonn ist.<\/p>\n Die von Prof. Dr. Franziska Boehm geleitete Forschungsabteilung Immaterialg\u00fcterrechte (IGR) beim FIZ Karlsruhe (FIZ) analysiert Datenschutz- und IT-Vorgaben sowie Rechtsfragen der k\u00fcnstlichen Intelligenz. Daraus sollen Empfehlungen f\u00fcr gesellschaftliche Prozesse, die digitale Wissenschaft, einschlie\u00dflich deren Infrastruktureinrichtungen, abgeleitet werden.<\/p>\n Ziel: KI-Modelle und Daten vor Manipulationen sch\u00fctzen<\/strong><\/p>\n Die Projektergebnisse sollen einen wichtigen Beitrag zur St\u00e4rkung der Cybersicherheit von kritischen medizinischen Ger\u00e4ten leisten, die KI-Methoden zur Erkennung von lebensbedrohlichen Zust\u00e4nden in Echtzeit verwenden. Diese neuen technischen L\u00f6sungen sollen es erm\u00f6glichen, sowohl KI-Modelle als auch deren zugrunde liegende Daten vor Manipulationen zu sch\u00fctzen. Die Projektergebnisse sollen weit \u00fcber die Epilepsieanfallserkennung hinaus Anwendung finden. Damit soll das Vorhaben eine technologische Basis f\u00fcr die deutliche Steigerung der Integrit\u00e4t, Verf\u00fcgbarkeit und Verl\u00e4sslichkeit von KI-basierten Medizinger\u00e4ten schaffen.\u00a0<\/p>\n","protected":false},"excerpt":{"rendered":"K\u00fcnstliche Intelligenz (KI) ist in aller Munde und in fast allen Lebensbereichen auf dem Vormarsch \u2013 auch auf…\n","protected":false},"author":2,"featured_media":4215,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1842],"tags":[1741,3364,29,30,1209],"class_list":{"0":"post-309559","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-bonn","8":"tag-bonn","9":"tag-de","10":"tag-deutschland","11":"tag-germany","12":"tag-nordrhein-westfalen"},"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@de\/114950867394073200","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/309559","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/comments?post=309559"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/309559\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media\/4215"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media?parent=309559"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/categories?post=309559"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/tags?post=309559"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}