OpenAI und Anthropic wollen nicht, dass KI Biowaffen produziert

Künstliche Intelligenz kann in der Biowissenschaft ein großer Vorteil sein. Insbesondere bei der DNA-Sequenzierung kann sie Prozesse enorm beschleunigen. Dabei wird die genaue Nukleotid-Abfolge in einem DNA-Molekül analysiert, z.B. um genetisch bedingte Erkrankungen oder Viren zu verstehen. Doch wie häufig in der Geschichte der Menschheit kann die KI nicht nur für die Forschung, sondern auch für die Erschaffung von Biowaffen genutzt werden. 

Dagegen haben sich jetzt die Chefs der größten KI-Firmen und US-Wissenschaftler ausgesprochen. In einem offenen Brief wandten sich u.a. Sam Altman (OpenAI), Demis Hassabis (Google DeepMind), Dario Amodei (Anthropic) und Mustafa Suleyman (Microsoft AI) an die US-Regierung. Sie fordern darin neue Gesetzesregelungen, mit denen der Verkauf von synthetischer DNA und RNA eingeschränkt wird. Hersteller solcher Sequenzen liefern diese eigentlich an Forscher und Biotech-Firmen, z.B. für die Medikamentenentwicklung. 

Keine verpflichtende Prüfung

Die Sorge ist aber, dass mithilfe von KI potenziell gefährliche Biowaffen designt werden können. Diese könnte man sich dann in Form solcher DNA-Sequenzen erstellen und liefern lassen. Die meisten dieser Firmen prüfen zwar, ob die Bestellung tatsächlich von befugten Personen für wissenschaftliche Zwecke gekauft wird, doch dieses Vorgehen ist freiwillig. Im Brief wird zudem gefordert, dass Anbieter synthetischer DNA Herstellung und Prozess genau dokumentieren müssen, um im Zweifelsfall die Quelle einer gefährlichen Sequenz nachvollziehen zu können. "Allein das Bewusstsein, dass es rückverfolgt werden kann, verhindert Missbrauch", heißt es im Brief. 

Dass davon tatsächlich eine Gefahr ausgeht, hat bereits 2016 ein Team der University Alberta in Kanada gezeigt. Für 100.000 Dollar erstellten sie eine synthetisierte Version des eigentlich nicht mehr in der Natur vorkommenden Pferdepocken-Virus. Sie hatten die Bausteine dafür einfach online bei einem solchen DNA-Anbieter bestellt und im Labor zusammengesetzt. "Wenn das mit Pferdepocken geht, dann geht das auch mit Pocken", hatte der Virologe Gerd Sutter der LMU München damals gesagt. 

Planspiel mit virtueller Pandemie

Auch im Februar 2024 zeigte ein entsprechendes Planspiel die Gefahren auf. Bei der Münchner Sicherheitskonferenz entwickelte die Nuclear Threat Initiative (NTI) mithilfe von KI eine virtuelle Biowaffe. Damit lösten sie eine fiktive Pandemie aus, bei der weltweit 850 Millionen Menschen erkrankt wären und 60 Millionen gestorben wären. 

Die Experten warnten damit ausdrücklich vor den Gefahren durch uneingeschränkte KI-Nutzung in der Biologie. Im Juli 2025 erklärten sie in einem entsprechenden Statement, dass durch den rasanten technischen Fortschritt schon in naher Zukunft komplexe biologische Systeme erschaffen und Viren und Bakterien sequenziert werden könnten. Auch sie forderten Politik, Industrie und Forschung auf, gemeinsam an der Prävention solcher Ereignisse zu arbeiten.

EU bereitet Gesetzesregelungen vor

In der EU sieht die Lage derzeit ähnlich wie in den USA aus. Allerdings nennt etwa der geplante EU AI Act explizit, dass eine Gefahr durch von KI erstellten Biowaffen besteht. Außerdem arbeitet die EU-Kommission an einem Biotech Act, der zusätzlich Sicherheitsvorkehrungen vorsieht, um solchen Missbrauch zu verhindern.