Science
24.07.2018

US-Armee entwickelt KI, die ihre Entscheidungen begründen kann

Die nächste Phase der KI soll nicht nur Entscheidungen treffen, sondern diese auch begründen sollen, wenn es nach der DARPA geht.

Die Defense Advanced Research Projects Agency ( DARPA), die Forschungsabteilung der US-Armee, arbeitet an einem Projekt, um künstliche Intelligenz (KI) weiterzuentwickeln. Das Artificial Intelligence Exploration Programm soll neue Konzepte entwickeln. So soll eine KI in Zukunft auch dazu in der Lage sein, ihre Entscheidungen, die sie gefällt hat, offenzulegen. Ergo - es soll nicht nur selbstständig eine Entscheidung getroffen werden, sondern diese muss auch begründet werden, so, dass sie von Menschen verstanden wird.

Wenn eine KI etwa eine Katze erkennt, reicht es dann nicht, dass sie sagt: „Ich habe Katzenbilder miteinander verglichen und bin zu dieser Entscheidung gekommen“, sondern sie muss erklären, dass das Lebewesen vor ihr Fell und Pfoten hat und von der Form her der einer Katze am nächsten kommt.

Für die DARPA ist das der dritte Schritt bei KI-Entwicklung, den die Behörde des US-Verteidigungsministeriums in den nächsten 18 Monaten erreichen möchte, berichtet Engadget. KI-Pioniere arbeiten daran allerdings schon lange. Für das US-Militär könnte eine derartige Entwicklung aber besonders bedeutend sein, etwa wenn Drohnen eines Tages selbstständig entscheiden, welche Ziele sie bekämpfen. Hier muss im Nachhinein nachvollziehbar sein, warum ein bestimmtes Ziel ausgewählt wurde.