Sam Altman: OpenAI-Deal mit US-Verteidigungsministerium steht
Der ChatGPT-Entwickler OpenAI hat eine Vereinbarung mit dem US-Militär über den Einsatz seiner KI-Modelle in als geheim eingestuften Cloud-Netzwerken geschlossen. Dies teilte Firmenchef Sam Altman am späten Freitagabend (Ortszeit) mit.
"Bei all unseren Interaktionen hat das Kriegsministerium einen tiefen Respekt für Sicherheit und den Wunsch nach einer Partnerschaft gezeigt, um das bestmögliche Ergebnis zu erzielen", schrieb Altman auf der Plattform X.
Sein Unternehmen werde auch technische Schutzmaßnahmen entwickeln, um sicherzustellen, dass sich die KI-Modelle wie vorgesehen verhalten, was auch im Sinne des Ministeriums sei, so Altman weiter. "2 unserer wichtigsten Sicherheitsprinzipien sind Verbote von Massenüberwachung im Inland, und menschliche Verantwortlichkeit für Gewaltausübung, darunter auch autonome Waffensysteme", schreibt der OpenAI-CEO.
➤ Mehr lesen: Österreicher hinter gehypter KI OpenClaw arbeitet jetzt für OpenAI
Nach Verschärfung der Gangart gegen Rivalen Anthropic
Die US-Regierung hatte am selben Tag das Vorgehen gegen den OpenAI-Rivalen Anthropic verschärft. US-Präsident Donald Trump wies alle Bundesbehörden an, die Nutzung der Technologie von Anthropic einzustellen.
➤ Mehr lesen: Anthropic-Chef erteilt Pentagon Absage: KI-Sicherheit wird nicht aufgegeben
Das Pentagon stufte das Unternehmen zudem als Risiko für die Lieferkette der nationalen Sicherheit ein. Mit sofortiger Wirkung dürften keine Auftragnehmer, Lieferanten oder Partner, die mit dem US-Militär Geschäfte tätigen, kommerzielle Aktivitäten mit Anthropic durchführen, verlautbarte Verteidigungsminister Pete Hegseth am Freitag auf X.
Streitpunkt Massenüberwachung im Inland
Hintergrund ist ein Streit über den Einsatz von KI in Waffensystemen und zur Überwachung. Anthropic hatte Garantien gefordert, dass seine KI nicht für vollständig autonome Waffen oder zur Massenüberwachung im Inland eingesetzt wird.
Für Ersteres seien heutige Modelle schlicht nicht zuverlässig genug und würden daher US-Streitkräfte und die Bevölkerung gefährden. Massenüberwachung innerhalb der USA sei eine Verletzung der Grundrechte. Das Unternehmen will nun die Entscheidung der US-Regierung gerichtlich anfechten.
Kritik von Angestellten
Das Pentagon will KI-Modelle verstärkt in geheimen Netzwerken einsetzen. Mit seiner ablehnenden Haltung bildet Anthropic eine Ausnahme in der Branche: Konkurrenten wie die Google-Mutter Alphabet, das von Tesla-Chef Elon Musk geführte Unternehmen xAI sowie OpenAI hatten bereits Abkommen mit der Regierung geschlossen.
Wie Bloomberg berichtet, formiert sich unter Angestellten dieser Unternehmen Widerstand. Sie fordern, dass ihre Arbeitgeber die Schutzmaßnahmen gegen Inlands-Massenüberwachung und vollautonome Waffensysteme ebenfalls einfordern. Die KI-Systeme sollten dem Verteidigungsministerium keinesfalls ohne Einschränkungen überlassen werden.