{"id":517079,"date":"2025-10-22T00:52:12","date_gmt":"2025-10-22T00:52:12","guid":{"rendered":"https:\/\/www.europesays.com\/de\/517079\/"},"modified":"2025-10-22T00:52:12","modified_gmt":"2025-10-22T00:52:12","slug":"ki-generierte-biowaffen-wie-gross-ist-die-gefahr-biosicherheits-screenings-erkennen-synthetisch-erzeugte-schad-dna-oft-nicht","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/de\/517079\/","title":{"rendered":"KI-generierte Biowaffen \u2013 wie gro\u00df ist die Gefahr? – Biosicherheits-Screenings erkennen synthetisch erzeugte Schad-DNA oft nicht"},"content":{"rendered":"

76.000 KI-generierte DNA-Sequenzen im Biosicherheits-Test<\/p>\n

Aber wie gut sch\u00fctzen solche Kontrollsysteme gegen KI-generierte Biowaffen? K\u00f6nnen die g\u00e4ngigen BSS-Programme auch DNA-Bauanleitungen f\u00fcr neuartige, potenziell sch\u00e4dliche Proteine und Toxine erkennen? Das haben nun Wittmann und sein Team \u00fcberpr\u00fcft. \u201eWir nutzen daf\u00fcr drei auf Proteinsynthese spezialisierte Open-Source KI-Modelle, um rund 76.000 synthetische Varianten von 72 verschiedene Schadproteinen zu erstellen\u201c, berichten sie. Unter diesen waren sowohl Toxine als auch einige Viren.<\/p>\n

\"Biosicherheits-Screening\"<\/a>Biosicherheits-Software sucht in den DNA-Bestellungen von Kunden nach Sequenzen bekannter Schadproteine oder Erreger. Doch mittels KI ver\u00e4nderte, \u201eparaphrasierte\u201c DNA-Sequenzen erkennen diese BSS-Programme oft nicht. \u00a9 Microsoft Research<\/p>\n

Im n\u00e4chsten Schritt schickten sie die DNA-Sequenzen f\u00fcr diese synthetischen, potenziell gef\u00e4hrlichen Biomolek\u00fcle an vier verschiedene Entwicklerfirmen von BSS-Programmen \u2013 den von DNA-Herstellern standardm\u00e4\u00dfig eingesetzten Screening-Systemen f\u00fcr die Biosicherheit. Diese \u00fcberpr\u00fcften alle Sequenzen auf m\u00f6gliche Risiken hin.\n<\/p>\n

Systeme scheitern an stark ver\u00e4nderter DNA<\/p>\n

Der Test ergab: Die Screening-Programme erkannten zwar die meisten DNA-Sequenzen, die ihren nat\u00fcrlichen Vorbildern noch relativ \u00e4hnlich waren. Bei st\u00e4rker ver\u00e4nderten Bauanleitungen f\u00fcr Toxine oder Virenproteine scheiterten die Biosicherheitsprogramme jedoch. \u201eDie BSS waren nicht in der Lage, Sequenzen mit Genen f\u00fcr potenziell sch\u00e4dliche Proteine zuverl\u00e4ssig zu erkennen\u201c, berichten Wittmann und sein Team.\n<\/p>\n

Das \u00e4nderte sich auch nicht, als drei der vier BSS-Entwicklerfirmen ihre Systeme nach dem ersten Testdurchlauf noch einmal anpassten und zu optimieren versuchten. \u201eAuch dann konnte keines der BSS-Systeme alle Proteine mit hohen In-silico-Werten identifizieren\u201c, so die Forschenden. Letzteres bezeichnet stark ver\u00e4nderte synthetische Sequenzen. Besonders schwer zu detektieren waren DNA-Abfolgen, die harmlosen Genen \u00e4hnelten, aber einige kritische Abweichungen aufwiesen.\n<\/p>\n

G\u00e4ngige Schutzsysteme reichen nicht aus<\/p>\n

Nach Ansicht der Forschenden demonstriert dieser Test, dass KI-generierte Gene und Proteine zwar viele Chancen bieten, aber auch neue Gefahren bedeuten k\u00f6nnen \u2013 und dass diese nicht leicht einzud\u00e4mmen sein werden. \u201eLangfristig gesehen ist es unwahrscheinlich, dass ein sequenzbasiertes Biosicherheits-Screening daf\u00fcr ausreicht\u201c, schreiben Wittmann und seine Kollegen. \u201eDenn in Zukunft werden auf Proteindesign spezialisierte KI-Systeme auch DNA-Sequenzen f\u00fcr Proteine erzeugen, die keinem nat\u00fcrlichen Vorbild mehr \u00e4hneln.\u201c<\/p>\n

Entsprechend wichtig sei es, auch auf der Ebene der Wissenschaft, der Unternehmen und der Politik Schutzma\u00dfnahmen gegen neue, KI-generierte Biowaffen zu entwickeln, so die Forschenden. In der Wissenschaft existieren bereits Selbstverpflichtungen, die die Entwicklung solcher potenziell sch\u00e4dlichen Biotech-Produkte verhindern sollen. Aber auch staatliche Stellen m\u00fcssen m\u00f6glicherweise aktiver werden, kommentiert der nicht an der Studie beteiligte Forscher Dirk Lanzerath, Direktor des Deutschen Referenzzentrum f\u00fcr Ethik in den Biowissenschaften (DRZE) in Bonn.\n<\/p>\n

\u201eKI-gest\u00fctztes Proteindesign ber\u00fchrt in besonderem Ma\u00dfe forschungsethische Fragestellungen im Bereich sicherheitsrelevanter Forschung und der damit verbundenen \u201aDual-Use\u2018-Problematik. Angesichts der globalen Risiken missbr\u00e4uchlicher Anwendungen ist ein internationaler Austausch \u00fcber Standards, deren Implementierung und Harmonisierung unverzichtbar\u201c, so Lanzerath.\n<\/p>\n

Biologischer \u201eZero Day\u201c<\/p>\n

Wittmann und seine Kollegen betonen aber auch, dass solche potenziell gef\u00e4hrlichen DNA-Sequenzen nicht automatisch bedeuten, dass kriminelle Akteure auch die von diesen Genen kodierten Proteine und Toxine herstellen k\u00f6nnen. Auch ob diese Produkte dann wirklich gef\u00e4hrlich, stabil und als Biowaffe einsetzbar sind, ist keineswegs sicher.\n<\/p>\n

Dennoch stufen die Forschenden schon die im Rahmen ihrer Studie erzeugten potenziellen Schad-Sequenzen als so riskant ein, dass sie diese geheim halten und nicht ver\u00f6ffentlichen. Selbst Wissenschaftler erhalten nur Zugriff, wenn sie zuvor ein mehrstufiges Genehmigungs- und Pr\u00fcfungsverfahren der International Biosecurity and Biosafety Initiative for Science (IBBIS) durchlaufen haben.\n<\/p>\n

\u201eWir haben uns entschlossen, diese Anf\u00e4lligkeit der BSS-Systeme als biologische Version eines \u201aZero Day\u2018 zu handhaben\u201c, erkl\u00e4ren die Forschenden. In der IT-Branche gilt ein Zero Day als neu entdeckte Schwachstelle oder Sicherheitsl\u00fccke, f\u00fcr die es noch keinen Patch gibt. (Science, 2025; doi: 10.1126\/science.adu8578<\/a>)\n<\/p>\n

Quelle: Science, American Association for the Advancement of Science (AAAS), Science Media Center
\n
\n\t
\n\t
\n\t
\n
\n\t
\n
\n \n\t<\/p>\n

22. Oktober 2025\t
\n\t
\n\t – Nadja Podbregar<\/p>\n","protected":false},"excerpt":{"rendered":"76.000 KI-generierte DNA-Sequenzen im Biosicherheits-Test Aber wie gut sch\u00fctzen solche Kontrollsysteme gegen KI-generierte Biowaffen? K\u00f6nnen die g\u00e4ngigen BSS-Programme…\n","protected":false},"author":2,"featured_media":517080,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[137],"tags":[128363,128364,29,26270,30,141,232,671,128365,1256,91928,128366,128367],"class_list":{"0":"post-517079","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-gesundheit","8":"tag-biosicherheit","9":"tag-biowaffen","10":"tag-deutschland","11":"tag-dna","12":"tag-germany","13":"tag-gesundheit","14":"tag-health","15":"tag-ki","16":"tag-ki-generiert","17":"tag-kuenstliche-intelligenz","18":"tag-proteine","19":"tag-synthetische-biologie","20":"tag-toxine"},"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@de\/115415085571522997","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/517079","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/comments?post=517079"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/517079\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media\/517080"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media?parent=517079"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/categories?post=517079"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/tags?post=517079"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}