IBM hat plötzlich ein Problem mit Gesichtserkennung

Der US-Technologiekonzern ist für Gesichtserkennungssoftware nicht mehr zu haben. Bestehende Lösungen werden weder weiterentwickelt noch Behörden und anderen Firmen zum Kauf angeboten. Das teilte IBM am Montag in einem Brief an den US-Kongress mit. "IBM lehnt jegliche Technologie, inklusive Gesichtserkennungs-Technologien anderer Hersteller für Massenüberwachung, Racial Profiling und Verletzungen der Menschenrechte und Freiheiten ab (...) und wird die Verwendung nicht mehr billigen", erklärte IBM-CEO Arvind Krishna.

Jegliche Forschung gestoppt

In dem Brief, der die systemische Diskriminierung von Personen aufgrund ihrer Hautfarbe, Herkunft, aber auch anderer Parameter wie Beruf oder Glaube thematisiert, kritisiert IBM auch die missbräuchliche Verwendung von Technologien. Künstliche Intelligenz etwa sei ein mächtiges Werkzeug, dass Behörden beim Schutz von Bürgern helfen könne. Gleichzeitig müssten Hersteller und Behörden sicherstellen, dass künstliche Intelligenz keine Vorurteile reproduziere - gerade, wenn sie im Gesetzesvollzug eingesetzt werde. Entsprechende Tests müssten transparent geführt werden.

Dass intelligent scheinende Technologien anfällig sind, Stereotype und Klischees zu reproduzieren, ist längst bekannt. In Hong Kong wiederum versucht die chinesische Führung Proteste mittels Gesichtserkennung im Keim zu ersticken - wenn auch nicht immer erfolgreich. Damit derartige Technologien von Behörden etwa auch in den USA nicht zweckentfremdet werden können, zieht IBM nun die Reißleine. Das ist insofern bemerkenswert, da das Unternehmen bisher wenige moralische Bedenken zu diesem Thema äußerte. Vor einem Jahr noch verteidigte IBM die Entscheidung, Hunderte Millionen private Fotos ungefragt zum Trainieren von Gesichtserkennung zu verwenden.

Wende mit neuem Chef

Der plötzliche Rückzug könnte neben der aktuellen politischen Lage auch dem neuen IBM-Chef Arvind Krishna geschuldet sein, der Anfang des Jahres überraschend an die Spitze des Konzerns aufstieg. Unklar ist auch, wie wirtschaftlich erfolgreich die Gesichtserkennungssparte von IBM in den vergangenen Jahren war. Abzuwarten bleibt, welche Konsequenzen die Ankündigung für IBMs Big-Data-Technologien hat, bei denen ähnliche Problemstellungen eine Rolle spielen.

Unter den großen Playern kooperiert Amazon in diesem Bereich mit Behörden. Für Aufregung sorgte die bis vor kurzem unbekannte App Clearview AI, die Social-Media-Accounts durchforstete und von der US-Polizei für Ermittlungsarbeiten eingesetzt wurde. Gibt man ein Foto ein, spuckt die Software sämtliche Bilder der vermeintlich zu sehenden Person aus, die auf Plattformen gepostet wurden. Zu dem Zeitpunkt, als Apple die App aus seinem App Store verbannte, waren bereits 2.900 Kunden bekannt - darunter viele Polizeibehörden, aber auch Milliardäre und Schauspieler, die Clearview AI teilweise als Spaßvertreib, aber auch als Spionagewerkzeug nutzten.