© Kaspersky

Science
10/16/2019

Roboter schummelt sich mit Pizza in Sicherheitstrakt

Ein Androide, der vorgab, eine Pizza zu liefern, kam problemlos durch die Türkontrolle einer belgischen Firma.

von Martin Stepanek

Ein Roboter wartet vor einer Tür eines Technologieunternehmens in Belgien. Er hat die erforderliche Zugangskarte nicht, bittet aber um Einlass. Das sollte eigentlich verdächtig wirken. Weit gefehlt. Der sprechende Androide, der Mitarbeiter in einem Bürokomplex in der Innenstadt von Gent höflich bat, mit ihnen durch die Tür gehen zu dürfen, hatte keine Probleme, in den Hochsicherheitstrakt zu gelangen. Das ist das überraschende Ergebnis eines Experiments (PDF), das die Universität Gent zusammen mit der Sicherheitsfirma Kaspersky zum Thema soziale Robotik durchführte.

Ohne Zugangskarte durch die Tür

In dem ersten Versuch, bei dem der Roboter einfach vor der Tür wartete und Personen fragte, ob er hineinkommen dürfe, gestatteten 40 Prozent der Mitarbeiter den Zutritt. Noch krasser fiel ein zweiter Test aus, bei dem der Roboter zur Mittagszeit mit einer Pizzaschachtel eines bekannten Zulieferers in seinen Armen auftauchte. Fast alle der 50 Menschen umfassende Testgruppe, die über das Experiment nicht informiert worden waren, ließen den Roboter ohne Zutrittskarte in den gesicherten Bereich. Und das, obwohl das Protokoll der Firma vorsieht, dass Personen ohne funktionierende Sicherheitskarte ausnahmslos abgewiesen werden müssen.

"Wir sind gegenüber Technologie zu vertrauensselig, umso mehr wenn sie wie im Fall des Roboters menschenähnlich verpackt ist und mit uns kommuniziert", erklärt Studienleiter Tony Belpaeme, Professor für KI und Robotik an der Universität Gent, im Gespräch mit der futurezone. Dass Menschen sympathisch wirkenden Robotern praktisch blind vertrauen, führt Belpaeme darauf zurück, dass der Mensch ein soziales Wesen sei und durch die stattfindende Kommunikation leichter hinters Licht geführt werden könne.

Das zeigte auch ein zweites Experiment, in welchem der Roboter als Gesprächspartner mit einer Person in einem Raum platziert wurde. Um persönliche Informationen wie Geburtsdatum, die Lieblingsfarbe, den Namen des Haustiers oder den Markennamen des ersten eigenen Autos aus den Testpersonen zu kitzeln, verwickelte er diese in ein harmlos wirkendes, freundschaftliches Gespräch. Derartige Informationen sind insofern heikel, weil sie etwa zum Zurücksetzen von Passwörtern von Fremden missbraucht werden können. Mit Ausnahme einer Person gelang es dem Roboter so im Schnitt fünf sensible Informationen in fünf Minuten herauszufinden.

Ahnungslose Menschheit

"Es hat mich wirklich überrascht, wie wenig Leute über Roboter wissen", sagt Belpaeme. "Sie gehen davon aus, dass sie gutmütig und vertrauenswürdig sind. Vor allem aber glauben sie, dass sie geschlossene Systeme sind. Dabei ist ein moderner Roboter natürlich vernetzt und über das Internet mit der Cloud verbunden. Er hat auch einen Besitzer bzw. eine Firma, die den Roboter steuert, ihm Befehle gibt und natürlich Zugang zu allen gesammelten Daten hat - sei es jetzt persönlicher Natur oder im Hochsicherheitstrakt einer Firma."

Dass soziale Roboter offenbar besonders einfach missbraucht werden können, um Menschen sensible Daten zu entlocken, könnte künftig noch zum Problem werden. Denn Sicherheitsforschern von Kaspersky zufolge sind die meisten Robotersysteme praktisch ungeschützt. Viele Roboter greifen auf Softwarebausteine zurück, die über das 2007 gegründete Open-Source-Projekt "Robot Operating System" (ROS) zur Verfügung gestellt wurden. Aufgrund der fehlenden Schutzmechanismen sind sie ein leichtes Ziel für Angreifer. 

Roboter besonders angreifbar

"Durch ROS konnten auch Forschungseinrichtungen plötzlich schnell und unkompliziert einen Roboter bauen. Die Kehrseite der Medaille war, dass Entwickler damals auf die Implementierung von Sicherheitselementen verzichteten. Das macht viele heute im Einsatz befindliche Roboter angreifbar", sagt Dmitry Galov, Sicherheitsforscher bei Kaspersky. Von dem gemeinsamen Projekt mit der Universität Gent erhofft sich Galov, dass das Bewusstsein in der Öffentlichkeit, aber auch unter Roboterforschern geschärft wird und sicherheitstechnische Überlegungen stärker berücksichtigt werden.

Als Lösung für derartige Systeme, aber auch den gesamten Internet-der-Dinge-Bereich, will Kaspersky sein Betriebssystem KasperskyOS etablieren, das integrierte Systeme vor Angriffen und Manipulationen schützen soll. Im Falle des pizza-liefernden Roboters, der von einem Angreifer zum Ausspionieren einer Firma geschickt wird und dies nur mit seinen sozialen Fähigkeiten schafft, hätte der Schutz aber nichts genutzt. "Angriffe, bei denen soziale Fertigkeiten ausgenutzt werden, sind mit technischen Mitteln kaum zu verhindern. Hier kann man nur das Bewusstsein von Mitarbeitern schärfen, damit sie nicht in die Falle tappen", sagt Galov zur futurezone.

 

Disclaimer: Der Besuch der futurezone bei der Sicherheitskonferenz Kaspersky Next, wo das Projekt präsentiert wurde, erfolgte auf Einladung von Kaspersky.