Erst k\u00fcrzlich wurde der Nobelpreistr\u00e4ger Geoffrey Hinton gefragt, was ihn an K\u00fcnstlicher Intelligenz am meisten beunruhige. Der Forscher, oft als \u201eVater der K\u00fcnstlichen Intelligenz\u201c bezeichnet, antwortete: \u201eK\u00fcnstliche Intelligenz zu benutzen, um b\u00f6se Viren zu kreieren!\u201c<\/p>\n
\u201eB\u00f6se\u201c sind die Viren, die nun tats\u00e4chlich in einem Labor an der Stanford University hergestellt wurden, zwar nicht \u2013 darauf haben die Forschenden peinlich genau achtgegeben. Aber mit derselben Technik, oder einer \u00e4hnlichen, und mit derselben KI oder einer \u00e4hnlichen, k\u00f6nnten andere genau solche kreieren. \u201eAlles, was n\u00f6tig ist, ist ein einziger verr\u00fcckter Typ voller Groll\u2026 eine Person, die sich mit Molekularbiologie auskennt und mit KI gut auskennt, und die Welt zerst\u00f6ren will\u201c, so Hinton.<\/p>\n
Zu Risiken und Nebenwirkungen… <\/p>\n
Wie bei fast allen sich derzeit rasant entwickelnden Anwendungsm\u00f6glichkeiten K\u00fcnstlicher Intelligenz ist es aber auch in diesem Fall so, dass den Risiken auch gro\u00dfe Chancen zur Seite stehen. So k\u00f6nnten speziell designte Viren helfen, Krankheiten zu heilen, etwa bei Gentherapien, indem sie heilsame Gene verl\u00e4sslich in die erkrankten Organe bringen. \u201eDual Use<\/a>\u201c hei\u00dft das im Fachjargon, im Sinne des Stahls, der zu Pflugscharen, aber auch zu Schwertern geschmiedet werden kann.<\/p>\n Wegbereiter und Warner Nobelpreistr\u00e4ger Hinton misstraut Maschinen, die lernen <\/a><\/p>\n Die neue Studie<\/a>, die in der Fachzeitschrift \u201eScience\u201c ver\u00f6ffentlicht wurde, stammt von Wissenschaftlern der Stanford University und des benachbarten Arc Institutes in Palo Alto, Kalifornien. Sie brachten einer speziellen KI namens \u201eEvo\u201c (der Tagesspiegel berichtete)<\/a> bei, Muster der viralen Erbmaterialstruktur<\/a> zu erkennen und anhand dieser Daten Pl\u00e4ne f\u00fcr neue, in der Natur nicht vorkommende Viren zu erstellen.<\/p>\n Die Forschenden nutzten diese Pl\u00e4ne dann, um im Labor Bakterien dazu zu bringen, diese Viren zu produzieren. Das klappte zwar nur in relativ wenigen F\u00e4llen. Die meisten der von \u201eEvo\u201c entworfenen Baupl\u00e4ne erwiesen sich als nicht geeignet f\u00fcr lebensf\u00e4hige Viren. Ein paar aber eben doch. Und diese Viren waren dann auch in der Lage, andere Bakterien zu infizieren.<\/p>\n Gegen\u00fcber der \u201eNew York Times\u201c nannte Patrick Cai von der Universit\u00e4t Manchester, der nicht an der Studie beteiligt war, die Studie einen \u201ewichtigen Meilenstein\u201c.<\/p>\n Gefahrenpotenziale betreffen auch die m\u00f6gliche missbr\u00e4uchliche Verwendung durch Dritte f\u00fcr feindselige oder kriminelle Zwecke.<\/p>\n<\/blockquote>\n Mirko Himmel,<\/strong> Leiter der Arbeitsgruppe \u201eMolekulare Infektionsmechanismen pathogener Mikroorganismen\u201c, Universit\u00e4t Hamburg<\/p>\n Dieser Meilenstein ist per se auch noch kein gef\u00e4hrlicher. Denn die Viren sind allesamt dem in der Natur vorkommenden Stamm Phi X-174 extrem \u00e4hnlich und k\u00f6nnen nur Bakterien der Art Escherichia coli infizieren. Aufgrund der potenziellen Gefahren, \u00fcber die in der Forschungs-Community Einigkeit besteht, versorgten die Forschenden das Modell nicht mit Daten \u00fcber Viren, die Menschen, Tiere, Pflanzen und Pilze befallen. \u201eEvo\u201c kann also keine Genome von Viren generieren, die f\u00fcr Menschen gef\u00e4hrlich sein k\u00f6nnten. \u201eWir wollten einfach besonders vorsichtig sein\u201c, sagte Brian Hie, Experte f\u00fcr \u201eComputational Biology\u201c an der Stanford University und einer der Autoren der Studie, der New York Times<\/a>.<\/p>\n Weitere m\u00f6gliche Gefahren durch KI<\/p>\n K\u00fcnstliche Intelligenz ist grunds\u00e4tzlich anders als andere Technologien<\/strong>, die fr\u00fcher menschliche Gesellschaften revolutioniert haben.<\/p>\n So ist es, im Unterschied etwa zu Dampfmaschine oder Computer, inzwischen oft nicht mehr m\u00f6glich, nachzuvollziehen, was eine KI macht<\/strong> und wie sie zu ihrem L\u00f6sungsvorschlag f\u00fcr ein Problem kommt. KIs sind also oft eine \u201eBlack Box\u201c.<\/p>\n In diesem Zusammenhang stellt sich auch die Frage, wie KIs so einged\u00e4mmt werden k\u00f6nnen (\u201eContainment\u201c), dass sie sich nicht verselbstst\u00e4ndigen<\/strong>. Fachleute bef\u00fcrchten, dass KIs sonst f\u00fcr die Menschheit nachteilige Entscheidungen treffen und in die Tat umsetzen, etwa bei autonomen Waffensystemen.<\/p>\n KI ver\u00e4ndert schon heute die Arbeitswelt massiv<\/strong>.<\/p>\n Bei den \u201eGro\u00dfen Sprachmodellen\u201c gilt als eines der wichtigsten Probleme, dass Nutzer sie mit pers\u00f6nlichen Daten bef\u00fcllen<\/strong>, die zu ihrem Nachteil verwendet werden k\u00f6nnten.<\/p>\n KIs\u00a0\u2013 oder Menschen, die KIs nutzen\u00a0\u2013 k\u00f6nnen zudem Inhalte erstellen, die schwer von echten unterscheidbar sind, sogenannte \u201eDeep Fakes\u201c<\/strong>.<\/p>\n Doch die wachsenden Bef\u00fcrchtungen, dass solche KI-Systeme die Entwicklung ganz neuer biologischer Waffen m\u00f6glich machen k\u00f6nnten, wachsen. Mirko Himmel, Leiter der Arbeitsgruppe \u201eMolekulare Infektionsmechanismen pathogener Mikroorganismen\u201c an der Universit\u00e4t Hamburg, sagte gegen\u00fcber dem Science Media Center Deutschland, \u201emissbr\u00e4uchliche Verwendung durch Dritte f\u00fcr feindselige oder kriminelle Zwecke\u201c geh\u00f6re zu den realen \u201eGefahrenpotenzialen\u201c.<\/p>\n Der deutsche Mediziner Moritz Hanke vom Johns Hopkins Center f\u00fcr Gesundheitssicherheit thematisiert die Risiken zusammen mit seinem Kollegen Tom Inglesby in einem Begleitartikel in \u201eScience\u201c<\/a>. Er betonte gegen\u00fcber der \u201eNew York Times\u201c die besondere Verantwortung, die Regierungen und wissenschaftliche Organisationen hier h\u00e4tten. Er beobachte jedoch ein potenziell gef\u00e4hrliches Z\u00f6gern dabei, Schutzma\u00dfnahmen zu entwickeln, die die Entwicklung eines t\u00f6dlichen Virus verhindern k\u00f6nnten. W\u00e4hrenddessen schreite die Forschung in gro\u00dfen Schritten voran: \u201eDa besteht einfach eine riesige Kluft\u201c, so Hanke.<\/p>\n Wir m\u00fcssen Entwicklungen bei kritischen biologischen Datens\u00e4tzen und KI-Biodesignmodellen einem kontinuierlichen Monitoring zu unterziehen.<\/p>\n<\/blockquote>\n Harald K\u00f6nig<\/strong>, Institut f\u00fcr Technikfolgenabsch\u00e4tzung und Systemanalyse am \u201eKarlsruhe Institut f\u00fcr Technologie\u201c<\/p>\n Das von den Autoren der Studie benutzte KI-Modell \u201eEvo<\/a>\u201c st\u00fctzt sich auf das von der Firma OpenAI entwickelte ChatGPT und zahlreiche andere KI-Anwendungen. Doch statt mit Buch- und anderen Texten wie bei den bekannten \u201eGro\u00dfen Sprachmodellen\u201c wurde dieses \u201eGenom-Sprachmodell\u201c mit 14.266 Genomen von Bakterien infizierenden Viren, so genannten Bakteriophagen, trainiert. So entstanden, basierend auf dem Erbgut des nat\u00fcrlichen Phagen PhiX174, Tausende neue Phagen-Genome. Aus 16 davon waren die Bakterien schlie\u00dflich in der Lage, lebens-, reproduktions- und infektionsf\u00e4hige neue Phagen zu erzeugen.<\/p>\n Mensch und Maschine Die Mondmission stellt uns vor eine existenzielle Frage <\/a><\/p>\n Gaben die Forschenden einen Cocktail der synthetischen Phagen zu Bakterienkulturen, die gegen PhiX174 resistent waren, machte den neuen Viren diese Resistenz nichts aus. Dieser Befund zeige das Potenzial f\u00fcr antibakterielle Therapien mit Phagen<\/a>, in die auch angesichts zunehmender Antibiotikaresistenzen derzeit gro\u00dfe Hoffnungen gesetzt werden, so die Studienautoren. Gleichzeitig besteht aber die Gefahr, mit einer \u00e4hnlichen Methodik, aber mit Erbsubstanz etwa von Influenza-, Pocken- oder anderen Erregern, auch gezielt Viren herstellen zu k\u00f6nnen, die menschliche Zellen hocheffektiv befallen. Im schlimmsten Falle w\u00e4ren solche neuen Viren t\u00f6dlich, und das in pandemischen Ausma\u00dfen.<\/p>\n 700.000<\/p>\n Viren-Genome<\/strong> erdachte die KI. 16 erwiesen sich als lebensf\u00e4hig.<\/p>\n Harald K\u00f6nig vom Institut f\u00fcr Technikfolgenabsch\u00e4tzung und Systemanalyse am \u201eKarlsruhe Institut f\u00fcr Technologie\u201c sieht \u201eangesichts der hochdynamischen KI-Entwicklungen\u201c eine unmittelbare Notwendigkeit, \u201eEntwicklungen bei kritischen biologischen Datens\u00e4tzen und KI-Biodesignmodellen einem kontinuierlichen Monitoring zu unterziehen, um Risiken regelm\u00e4\u00dfig neu bewerten und m\u00f6gliche vorsorgende Ma\u00dfnahmen anpassen zu k\u00f6nnen\u201c. Dies m\u00fcsse \u201eaufgrund unterschiedlicher M\u00f6glichkeiten und daraus resultierender Bedrohungen durch staatliche und nichtstaatliche Akteure\u201c auf mehreren Ebenen geschehen.<\/p>\n Zu diesen Ma\u00dfnahmen k\u00f6nne eine verpflichtende \u00dcberpr\u00fcfung von Erbmaterialsynthesen und Auftraggebern f\u00fcr solche Arbeiten geh\u00f6ren, so K\u00f6nig. Auch \u201enach Risikopotenzial abgestufte Zugangskontrollen zu leistungsf\u00e4higen Biodesignmodellen oder zu bestimmten neuen Datens\u00e4tzen\u201c seien eine M\u00f6glichkeit.<\/p>\n Kontrollieren, aber wie? <\/p>\n Staatliche Akteure mit dem Willen, die Techniken zur Biowaffenproduktion einzusetzen, k\u00f6nne man auf diese Weise aber nicht in ihren M\u00f6glichkeiten einschr\u00e4nken. \u201eZur Kontrolle von Staaten erscheint es n\u00f6tig, die Biowaffenkonvention durch die Entwicklung eines bisher fehlenden Verifikationsregimes zu st\u00e4rken.\u201c Das k\u00f6nnten Kontrollen durch eine den UN unterstehende Beh\u00f6rde sein. Voraussetzung w\u00e4re aber vor allem die Bereitschaft aller Staaten, sich dem zu unterwerfen.<\/p>\n Ein weiteres Element zur Risikoreduktion durch Bedrohungen von staatlichen sowie nicht-staatlichen Akteuren k\u00f6nne der Ausbau von Ma\u00dfnahmen zur biologischen Abwehr sein. Dazu geh\u00f6rten auch \u201eKI-M\u00f6glichkeiten zur Fr\u00fcherkennung von Erregern sowie zur Entwicklung schnell skalierbarer medizinischer Gegenma\u00dfnahmen, wie zum Beispiel Impfstoffe\u201c.<\/p>\n Letztlich soll also beim Thema Biowaffen KI gegen KI helfen, was nach einer neuen, durch Menschen immer weniger kontrollierbaren R\u00fcstungsspirale klingt.<\/p>\n Mehr Pro und Contra KIPersonalisierte, einf\u00fchlsame KI-Tutoren Ist die Lehrkraft der Zukunft ein Chatbot? <\/a>Chat-Antworten zu Politik und Gesellschaft KI wirkt authentischer als echte Zitate <\/a>US-Regierung zieht Claude-KI den Stecker \u201eWir d\u00fcrfen diesen Warnschuss nicht ignorieren\u201c <\/a><\/p>\n Die Autoren der Studie jedenfalls warnen selbst eindringlich vor dem Gefahrenpotenzial, das die Kombination von Biotech und KI mit sich bringt. Das erinnert dann wieder an den KI-Pionier Hinton, der, wie er selbst sagt, bewusst aufgeh\u00f6rt hat, auf dem Gebiet zu forschen\u00a0\u2013 und 2023 bei Google einen hochbezahlten Job k\u00fcndigte.<\/p>\n\n
\n