Auf dem Weg zum Super-Erreger?: Forscher basteln neue, infektiöse Viren mit Künstlicher Intelligenz

Erst kürzlich wurde der Nobelpreisträger Geoffrey Hinton gefragt, was ihn an Künstlicher Intelligenz am meisten beunruhige. Der Forscher, oft als „Vater der Künstlichen Intelligenz“ bezeichnet, antwortete: „Künstliche Intelligenz zu benutzen, um böse Viren zu kreieren!“

„Böse“ sind die Viren, die nun tatsächlich in einem Labor an der Stanford University hergestellt wurden, zwar nicht – darauf haben die Forschenden peinlich genau achtgegeben. Aber mit derselben Technik, oder einer ähnlichen, und mit derselben KI oder einer ähnlichen, könnten andere genau solche kreieren. „Alles, was nötig ist, ist ein einziger verrückter Typ voller Groll… eine Person, die sich mit Molekularbiologie auskennt und mit KI gut auskennt, und die Welt zerstören will“, so Hinton.

Zu Risiken und Nebenwirkungen…

Wie bei fast allen sich derzeit rasant entwickelnden Anwendungsmöglichkeiten Künstlicher Intelligenz ist es aber auch in diesem Fall so, dass den Risiken auch große Chancen zur Seite stehen. So könnten speziell designte Viren helfen, Krankheiten zu heilen, etwa bei Gentherapien, indem sie heilsame Gene verlässlich in die erkrankten Organe bringen. „Dual Use“ heißt das im Fachjargon, im Sinne des Stahls, der zu Pflugscharen, aber auch zu Schwertern geschmiedet werden kann.

Wegbereiter und Warner Nobelpreisträger Hinton misstraut Maschinen, die lernen

Die neue Studie, die in der Fachzeitschrift „Science“ veröffentlicht wurde, stammt von Wissenschaftlern der Stanford University und des benachbarten Arc Institutes in Palo Alto, Kalifornien. Sie brachten einer speziellen KI namens „Evo“ (der Tagesspiegel berichtete) bei, Muster der viralen Erbmaterialstruktur zu erkennen und anhand dieser Daten Pläne für neue, in der Natur nicht vorkommende Viren zu erstellen.

Die Forschenden nutzten diese Pläne dann, um im Labor Bakterien dazu zu bringen, diese Viren zu produzieren. Das klappte zwar nur in relativ wenigen Fällen. Die meisten der von „Evo“ entworfenen Baupläne erwiesen sich als nicht geeignet für lebensfähige Viren. Ein paar aber eben doch. Und diese Viren waren dann auch in der Lage, andere Bakterien zu infizieren.

Gegenüber der „New York Times“ nannte Patrick Cai von der Universität Manchester, der nicht an der Studie beteiligt war, die Studie einen „wichtigen Meilenstein“.

Gefahrenpotenziale betreffen auch die mögliche missbräuchliche Verwendung durch Dritte für feindselige oder kriminelle Zwecke.

Mirko Himmel, Leiter der Arbeitsgruppe „Molekulare Infektionsmechanismen pathogener Mikroorganismen“, Universität Hamburg

Dieser Meilenstein ist per se auch noch kein gefährlicher. Denn die Viren sind allesamt dem in der Natur vorkommenden Stamm Phi X-174 extrem ähnlich und können nur Bakterien der Art Escherichia coli infizieren. Aufgrund der potenziellen Gefahren, über die in der Forschungs-Community Einigkeit besteht, versorgten die Forschenden das Modell nicht mit Daten über Viren, die Menschen, Tiere, Pflanzen und Pilze befallen. „Evo“ kann also keine Genome von Viren generieren, die für Menschen gefährlich sein könnten. „Wir wollten einfach besonders vorsichtig sein“, sagte Brian Hie, Experte für „Computational Biology“ an der Stanford University und einer der Autoren der Studie, der New York Times.

Weitere mögliche Gefahren durch KI

Künstliche Intelligenz ist grundsätzlich anders als andere Technologien, die früher menschliche Gesellschaften revolutioniert haben.

So ist es, im Unterschied etwa zu Dampfmaschine oder Computer, inzwischen oft nicht mehr möglich, nachzuvollziehen, was eine KI macht und wie sie zu ihrem Lösungsvorschlag für ein Problem kommt. KIs sind also oft eine „Black Box“.

In diesem Zusammenhang stellt sich auch die Frage, wie KIs so eingedämmt werden können („Containment“), dass sie sich nicht verselbstständigen. Fachleute befürchten, dass KIs sonst für die Menschheit nachteilige Entscheidungen treffen und in die Tat umsetzen, etwa bei autonomen Waffensystemen.

KI verändert schon heute die Arbeitswelt massiv.

Bei den „Großen Sprachmodellen“ gilt als eines der wichtigsten Probleme, dass Nutzer sie mit persönlichen Daten befüllen, die zu ihrem Nachteil verwendet werden könnten.

KIs – oder Menschen, die KIs nutzen – können zudem Inhalte erstellen, die schwer von echten unterscheidbar sind, sogenannte „Deep Fakes“.

Doch die wachsenden Befürchtungen, dass solche KI-Systeme die Entwicklung ganz neuer biologischer Waffen möglich machen könnten, wachsen. Mirko Himmel, Leiter der Arbeitsgruppe „Molekulare Infektionsmechanismen pathogener Mikroorganismen“ an der Universität Hamburg, sagte gegenüber dem Science Media Center Deutschland, „missbräuchliche Verwendung durch Dritte für feindselige oder kriminelle Zwecke“ gehöre zu den realen „Gefahrenpotenzialen“.

Der deutsche Mediziner Moritz Hanke vom Johns Hopkins Center für Gesundheitssicherheit thematisiert die Risiken zusammen mit seinem Kollegen Tom Inglesby in einem Begleitartikel in „Science“. Er betonte gegenüber der „New York Times“ die besondere Verantwortung, die Regierungen und wissenschaftliche Organisationen hier hätten. Er beobachte jedoch ein potenziell gefährliches Zögern dabei, Schutzmaßnahmen zu entwickeln, die die Entwicklung eines tödlichen Virus verhindern könnten. Währenddessen schreite die Forschung in großen Schritten voran: „Da besteht einfach eine riesige Kluft“, so Hanke.

Wir müssen Entwicklungen bei kritischen biologischen Datensätzen und KI-Biodesignmodellen einem kontinuierlichen Monitoring zu unterziehen.

Harald König, Institut für Technikfolgenabschätzung und Systemanalyse am „Karlsruhe Institut für Technologie“

Das von den Autoren der Studie benutzte KI-Modell „Evo“ stützt sich auf das von der Firma OpenAI entwickelte ChatGPT und zahlreiche andere KI-Anwendungen. Doch statt mit Buch- und anderen Texten wie bei den bekannten „Großen Sprachmodellen“ wurde dieses „Genom-Sprachmodell“ mit 14.266 Genomen von Bakterien infizierenden Viren, so genannten Bakteriophagen, trainiert. So entstanden, basierend auf dem Erbgut des natürlichen Phagen PhiX174, Tausende neue Phagen-Genome. Aus 16 davon waren die Bakterien schließlich in der Lage, lebens-, reproduktions- und infektionsfähige neue Phagen zu erzeugen.

Mensch und Maschine Die Mondmission stellt uns vor eine existenzielle Frage

Gaben die Forschenden einen Cocktail der synthetischen Phagen zu Bakterienkulturen, die gegen PhiX174 resistent waren, machte den neuen Viren diese Resistenz nichts aus. Dieser Befund zeige das Potenzial für antibakterielle Therapien mit Phagen, in die auch angesichts zunehmender Antibiotikaresistenzen derzeit große Hoffnungen gesetzt werden, so die Studienautoren. Gleichzeitig besteht aber die Gefahr, mit einer ähnlichen Methodik, aber mit Erbsubstanz etwa von Influenza-, Pocken- oder anderen Erregern, auch gezielt Viren herstellen zu können, die menschliche Zellen hocheffektiv befallen. Im schlimmsten Falle wären solche neuen Viren tödlich, und das in pandemischen Ausmaßen.

700.000

Viren-Genome erdachte die KI. 16 erwiesen sich als lebensfähig.

Harald König vom Institut für Technikfolgenabschätzung und Systemanalyse am „Karlsruhe Institut für Technologie“ sieht „angesichts der hochdynamischen KI-Entwicklungen“ eine unmittelbare Notwendigkeit, „Entwicklungen bei kritischen biologischen Datensätzen und KI-Biodesignmodellen einem kontinuierlichen Monitoring zu unterziehen, um Risiken regelmäßig neu bewerten und mögliche vorsorgende Maßnahmen anpassen zu können“. Dies müsse „aufgrund unterschiedlicher Möglichkeiten und daraus resultierender Bedrohungen durch staatliche und nichtstaatliche Akteure“ auf mehreren Ebenen geschehen.

Zu diesen Maßnahmen könne eine verpflichtende Überprüfung von Erbmaterialsynthesen und Auftraggebern für solche Arbeiten gehören, so König. Auch „nach Risikopotenzial abgestufte Zugangskontrollen zu leistungsfähigen Biodesignmodellen oder zu bestimmten neuen Datensätzen“ seien eine Möglichkeit.

Kontrollieren, aber wie?

Staatliche Akteure mit dem Willen, die Techniken zur Biowaffenproduktion einzusetzen, könne man auf diese Weise aber nicht in ihren Möglichkeiten einschränken. „Zur Kontrolle von Staaten erscheint es nötig, die Biowaffenkonvention durch die Entwicklung eines bisher fehlenden Verifikationsregimes zu stärken.“ Das könnten Kontrollen durch eine den UN unterstehende Behörde sein. Voraussetzung wäre aber vor allem die Bereitschaft aller Staaten, sich dem zu unterwerfen.

Ein weiteres Element zur Risikoreduktion durch Bedrohungen von staatlichen sowie nicht-staatlichen Akteuren könne der Ausbau von Maßnahmen zur biologischen Abwehr sein. Dazu gehörten auch „KI-Möglichkeiten zur Früherkennung von Erregern sowie zur Entwicklung schnell skalierbarer medizinischer Gegenmaßnahmen, wie zum Beispiel Impfstoffe“.

Letztlich soll also beim Thema Biowaffen KI gegen KI helfen, was nach einer neuen, durch Menschen immer weniger kontrollierbaren Rüstungsspirale klingt.

Mehr Pro und Contra KIPersonalisierte, einfühlsame KI-Tutoren Ist die Lehrkraft der Zukunft ein Chatbot? Chat-Antworten zu Politik und Gesellschaft KI wirkt authentischer als echte Zitate US-Regierung zieht Claude-KI den Stecker „Wir dürfen diesen Warnschuss nicht ignorieren“

Die Autoren der Studie jedenfalls warnen selbst eindringlich vor dem Gefahrenpotenzial, das die Kombination von Biotech und KI mit sich bringt. Das erinnert dann wieder an den KI-Pionier Hinton, der, wie er selbst sagt, bewusst aufgehört hat, auf dem Gebiet zu forschen – und 2023 bei Google einen hochbezahlten Job kündigte.

Warum? Er wolle, sagte er in dem kürzlich erschienenen Interview, „frei sprechen können“. Worüber? „Darüber, wie gefährlich KI sein kann.“