Saugroboter fotografiert Frau am Klo, Bilder landen im Netz

Saugroboter können mittlerweile mit ihren Kameras selbstständig Hindernisse erkennen und diese dann umfahren. Dafür nehmen sie auch ihre Umgebung auf und laden die Bilder in die Cloud. Unangenehm wird es aber, wenn pikante Bilder im Netz landen.

So geschehen ist es etwa vor 2 Jahren in Venezuela, wie MIT Technology Review berichtet. Ein iRobot Roomba J7 nahm eine Frau mit heruntergelassener Hose auf der Toilette auf und lud die Bilder in die Cloud hoch. Zum Pech für die Frau handelte es sich bei dem Gerät um eine Entwicklerversion, dessen Bilder zur Optimierung der Navigationssoftware genutzt wurden.

Bilder wurden händisch ausgewertet

Um die künstliche Intelligenz (KI) hinter der Software zu verbessern, wurden die Daten an das Unternehmen Scale AI geschickt. Dort werten Menschen rund um den Globus die Bilder händisch aus, wodurch die Software trainiert wird. Die Bilder blieben aber nicht bei Scale AI, sondern wurden in privaten Gruppen auf Facebook weitergepostet.

Technology Review selbst wurden 15 Bilder zugespielt, die für das Training der KI genutzt wurden. Die meisten davon zeigten übliche Hindernisse wie Schuhe und Schränke, andere bildeten Haustiere und Kinder ab.

Technik nicht zu sehr vertrauen

Technology Review warnt davor, technischen Geräten allzu sehr zu vertrauen. Informationswissenschaftlerin Jessica Vitak erklärt im Artikel: "Es ist viel einfacher, einen süßen kleinen Staubsauger zu akzeptieren, der sich durch einen Raum bewegt, als jemanden, der mit einer Kamera durch mein Haus läuft".

Dabei gilt aber immer die Faustregel: Wenn ein Gerät über eine Kamera und Internetverbindung verfügt, sollte man davon ausgehen, dass jemand zusehen könnte.

Nutzer*innen haben Aufnahme zugestimmt

Dem Unternehmen iRobot selbst ist hier jedoch kein Vorwurf zu machen. Einerseits handelt es sich bei der Entwicklerversion um ein Gerät, das nicht im Handel verfügbar war. Andererseits hätten alle Tester*innen eingewilligt, dass Aufnahmen der Umgebung zu Trainingszwecken übermittelt werden. Zudem soll auf dem Gerät ein Sticker mit der Warnung "Aufnahme läuft" geklebt sein. 

Mit den Firmen, die die Bilder auswerten, seien Datenschutzvereinbarungen geschlossen worden. Dass die Fotos dennoch auf Facebook landeten, sei ein klarer Verstoß dagegen, wie das Unternehmen selbst sagt. Die Zusammenarbeit mit Scale AI habe man unterdessen beendet, die Verträge mit anderen Firmen wurden nachgeschärft.