\n\t\t\t\tProf. Dr. J\u00fcrgen Bajorath | vom LIMES-Institut der Universit\u00e4t Bonn, vom Bonn-Aachen International Center for Information Technology (B-IT) und vom Lamarr-Institut f\u00fcr Maschinelles Lernen und K\u00fcnstliche Intelligenz.
\nFoto: Uni Bonn\t\t\t<\/p>\n
\t\t\tPublikation der Uni Bonn warnt vor Missverst\u00e4ndnissen im Umgang mit Vorhersage-Algorithmen<\/p>\n
Forschende aus Chemie, Biologie oder Medizin setzen zunehmend auf KI-Modelle, um neue Hypothesen zu entwickeln. Doch h\u00e4ufig ist unklar, auf welcher Basis die Algorithmen zu ihren Ergebnissen kommen und wie sehr diese verallgemeinerbar sind. Eine aktuelle Publikation der Universit\u00e4t Bonn warnt nun vor Missverst\u00e4ndnissen im Umgang mit K\u00fcnstlicher Intelligenz. Zugleich zeigt sie auf, unter welchen Bedingungen Forschende den Modellen am ehesten Vertrauen schenken k\u00f6nnen. Die Studie ist nun in der Zeitschrift \u201eCell Reports Physical Science\u201c erschienen. <\/b><\/p>\n
Lernf\u00e4hige Computeralgorithmen sind erstaunlich leistungsf\u00e4hig<\/strong>. Doch sie haben einen Nachteil: Von au\u00dfen betrachtet ist oft nicht ersichtlich, auf welcher Basis die Modelle ihre Schl\u00fcsse ziehen.<\/p>\n Mal angenommen, man f\u00fcttert eine K\u00fcnstliche Intelligenz mit Fotos von mehreren Tausend Autos<\/strong>. Wenn man ihr nun ein neues Bild vorlegt, kann sie in der Regel treffsicher erkennen, ob darauf ebenfalls ein Pkw zu sehen ist. Doch woran liegt das? Hat sie wirklich gelernt, dass ein Auto vier R\u00e4der, eine Windschutzscheibe und einen Auspuff hat? Oder orientiert sie sich an Kriterien, die eigentlich v\u00f6llig irrelevant sind \u2013 etwa der Antenne auf dem Dach? Falls dem so w\u00e4re, k\u00f6nnte es sein, dass sie auch ein Radio als Auto klassifiziert.<\/p>\n KI-Modelle sind eine Black Box<\/strong><\/p>\n \u201eKI-Modelle sind eine Black Box<\/strong>\u201c, betont Prof. Dr. J\u00fcrgen Bajorath<\/strong>. \u201eDaher sollte man ihren Schlussfolgerungen nicht blind trauen.\u201c Der Chemieinformatiker leitet am Lamarr-Institut<\/a> f\u00fcr maschinelles Lernen<\/strong> und k\u00fcnstliche Intelligenz den Bereich KI in den Lebenswissenschaften. Zudem verantwortet er das Life Science Informatics Programm am Bonn-Aachen International Center for Information Technology (b-it) der Universit\u00e4t Bonn. In der aktuellen Publikation ist er der Frage nachgegangen, wann man sich auf die Algorithmen am ehesten verlassen kann. Und umgekehrt: wann nicht.<\/p>\n Eine wichtige Rolle spielt dabei das Konzept der \u201eErkl\u00e4rbarkeit\u201c<\/strong>. Darunter versteht man bildlich gesprochen die Bem\u00fchungen der KI-Forschung, ein Guckloch in die Black Box zu bohren. Der Algorithmus soll preisgeben, an welchen Kriterien er sich orientiert \u2013 an den vier R\u00e4dern oder an der Antenne. \u201eDieser Ansatz ist momentan ein zentrales Thema in der KI-Forschung\u201c, sagt Bajorath<\/strong>. \u201eEs gibt sogar KIs, die nur daf\u00fcr entwickelt wurden, die Ergebnisse anderer KIs nachvollziehbarer zu machen.\u201c<\/p>\n Die Erkl\u00e4rbarkeit ist aber nur ein Punkt \u2013 ebenso wichtig ist die Frage, welche Schl\u00fcsse sich aus dem von der KI gew\u00e4hlten Entscheidungskriterium ableiten lassen<\/strong>. Wenn der Algorithmus angibt, sich an der Antenne orientiert zu haben, wei\u00df man als Mensch sofort, dass dieses Merkmal sich zur Identifikation von Autos schlecht eignet. Lernf\u00e4hige Modelle werden aber meist genutzt, um in gro\u00dfen Datens\u00e4tze Zusammenh\u00e4nge zu erkennen, die uns Menschen gar nicht auffallen w\u00fcrden. Uns geht es dann wie einem Au\u00dferirdischen, der nicht wei\u00df, was ein Auto ausmacht: Der k\u00f6nnte gar nicht sagen, ob die Antenne ein gutes Kriterium ist oder nicht.<\/p>\n