Musk will KI-Forschung mit offenem Brief stoppen

Elon Musk und viele Expert*innen aus der KI-Branche haben eine 6-monatige Pause bei der Entwicklung Künstlicher Intelligenzen gefordert. Die Zeit solle genutzt werden, um ein Regelwerk für die Technologie zu schaffen, hieß es in einem am Mittwoch veröffentlichten offenen Brief der Organisation Future of Life.

„Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind", so die Organisation. 

Generative KI als Gefahr

Neben dem Tesla-Chef Musk unterzeichneten mehr als 1.000 Personen dieses Manifest, darunter Emad Mostaque, Chef der KI-Firma Stability AI und mehrere Entwickler von Googles KI-Tochter DeepMind. Die Verfasser des Briefs wiesen auf die Gefahren sogenannter Generativer KI wie ChatGPT hin. Diese Programme können menschliche Interaktion simulieren und anhand weniger Stichworte Texte oder Bilder erstellen.

Allerdings sei diese Technologie inzwischen so weit fortgeschritten, dass selbst die Entwickler*innen ihre Programme nicht mehr verstehen oder wirksam kontrollieren könnten. Dadurch könnten die Informationskanäle mit Propaganda und Unwahrheiten geflutet und selbst erfüllende Jobs wegrationalisiert werden. Aus diesem Grund sollten alle Entwickler, die an Künstlicher Intelligenz (KI) der nächsten Generation arbeiten, ihre Arbeit öffentlich nachprüfbar einstellen. Geschehe dies nicht umgehend, müssten die Staaten ein Moratorium verhängen.

Wettrennen um Vormachtstellung 

Seit der Vorstellung von ChatGPT im November 2022 liefern sich viele Großkonzerne, allen voran Microsoft und Google, ein Rennen um die technologische Führerschaft bei KI. Quasi im Wochentakt werden neue Anwendungen vorgestellt, weil sich Unternehmen von dieser Technologie sprudelnde Gewinne versprechen. Einige Staaten wie China betrachten KI als strategisch wichtig und wollen Entwicklern große Freiheiten lassen.

Future of Life zufolge hat Sam Altman, Chef des ChatGPT-Entwicklers OpenAI, den Aufruf nicht unterschrieben. Elon Musk gehört zwar zu den Mitgründern dieser Firma, hat sich aber wiederholt kritisch zu diesem Thema geäußert und staatliche Regulierung gefordert.

„Der Wortlaut ist nicht perfekt, aber der Geist ist richtig: Wir müssen langsamer werden, bis wir die Auswirkungen besser verstehen“, sagte Gary Marcus, ein emeritierter Professor der New York University und Unterzeichner des offenen Briefs. Generative KI könne ernsthaften Schaden anrichten. „Die großen Akteure machen immer größere Geheimnisse um ihre Aktivitäten, was es der Gesellschaft erschwert, sich gegen mögliche Gefahren zu wehren.“