Computer erfindet 40.000 chemische Waffen in 6 Stunden

Jede Art von Medikament muss geprüft werden, um sicherzustellen, dass es nicht toxisch sein wird. Eine KI, die eigentlich den Auftrag hat, diese Toxizität vorherzusagen, schaffte es in weniger als 6 Stunden 40.000 potenziell tödliche Moleküle zu finden, wie The Verge berichtet.

Die Forscher*innen versetzten den Rechner absichtlich in den entsprechenden Modus, um auf einer Konferenz zur biologischen Rüstungskontrolle zu demonstrieren, wie leicht diese Technologie missbraucht werden kann. Dafür mussten sie die Methodik der KI anpassen, damit sie, anstatt giftige Substanzen auszusortieren, nach ihnen sucht.

Gelähmte Muskeln

Einige der gefundenen Substanzen ähneln dem stärksten jemals entwickelten Nervengift VX, welches die Lunge lähmt. Wie Fabio Urbina, Hauptautor der Studie und leitender Wissenschaftler bei Collaborations Pharmaceuticals im Interview mit The Verge erklärt, handelt es sich um einen Hemmstoff der sogenannten Acetylcholinesterase, einem sehr wichtigen Enzym. „Wann immer Sie etwas mit Muskeln tun, verwenden Ihre Neuronen Acetylcholinesterase (AChe) als Bewegungssignal."

Durch Versuche mit verschiedenen Arten von Molekülen wurde festgestellt, ob sie AChe hemmen. Die Datensätze wurden dann verwendet, um ein maschinelles Lernmodell zu erstellen. „Auf diese Weise können wir sehr schnell viele Moleküle virtuell untersuchen und diejenigen herausfiltern, die als toxisch eingestuft werden. In unserer Studie haben wir das umgedreht.“

Mithilfe von neuen generativen Modellen können (toxischen) Moleküle dann auch zusammengesetzt werden. Dazu haben die Wissenschafter*innen ein Bewertungsfunktion integriert, die ihnen eine hohe Punktzahl gibt, wenn die erzeugten Moleküle in die von ihnen gewünschte Richtung gehen. „Anstatt toxischen Molekülen eine niedrige Punktzahl zu geben, geben wir toxischen Molekülen eine hohe Punktzahl,“ sagt Urbina. „Jetzt beginnt das Modell, all diese Moleküle zu produzieren, von denen viele wie VX und auch wie andere chemische Kampfstoffe aussehen.“

Leichte Durchführung

Dem Forscher nach, war es sehr einfach zu machen. Demnach könnte jemand mit den entsprechenden Kenntnissen und Fähigkeiten in einem Wochenende auch so ein Modell auf der Grundlage von Toxizitätsdatensätzen, die man herunterladen könne, erstellen. Diese Gefahr war auch der Grund, weshalb die Forscher*innen diese Arbeit veröffentlichten. „Wenn man anfängt, im Bereich der Chemie zu arbeiten, wird man über den Missbrauch der Chemie informiert und ist dafür verantwortlich, dies so weit wie möglich zu vermeiden. Beim maschinellen Lernen gibt es nichts dergleichen. Es gibt keine Orientierungshilfe für den Missbrauch der Technologie.“

Allerdings wird es eine gewisse Anzahl von falsch-positiven Ergebnissen geben, also Moleküle, die nicht tatsächlich toxisch sind. Außerdem sei die Herstellung nicht so einfach. „Wenn man etwas findet, das wie ein chemischer Kampfstoff aussieht, und versucht, es zu synthetisieren, ist die Wahrscheinlichkeit groß, dass es nicht klappt“, erklärt Urbina.