„Selbstfahrende Autos können sicher sein, aber der Mensch baut Mist"

„Daten existieren nicht – sie werden extrahiert oder kreiert“, sagt Jack Stilgoe vom University College London. Und die mit Big Data gefütterten Produkte würden oft unzureichend erforscht, bevor sie auf den Markt kommen. Stichwort: Selbstfahrende Autos.

Dieses Thema war besonders brisant bei der Veranstaltung "Künstliche Intelligenz und Governance: Freiheit, Vertrauen, Sicherheit"  bei den Technologiegesprächen in Alpbach. Künstliche Intelligenz (KI) und Big Data haben sich in den vergangenen Jahren zu wichtigen Begriffen entwickelt. Wirtschaft, Wissenschaft und Politik erhoffen sich künftig robustere und „evidenzbasierte“ Handlungsempfehlungen. Was sind Potenziale und wo liegen Grenzen und Gefahren einer automatisierten Wissensproduktion und –verwertung? Und vor allem: wie ethisch handeln Hersteller?

"Daten existieren nicht"

Autonome Fahrzeuge sollten das Autofahren sicherer machen – zahlreiche Studien sprechen von Zehntausenden geretteten Leben allein in den USA. Die Sicherheit autonomer Systeme ist aber nur so gut wie die Menschen, die sie bauen. Stilgoe sprach in seinem Vortrag von der Rücksichtslosigkeit im Hinblick auf den Umgang mit Daten mancher großen US-Hersteller wie Uber, Tesla und Co.

Fatale Fehler

Die zahlreichen Aufrufe von Videos mit autonomen Fahrzeugen beweisen, wie faszinierend sie für den Menschen sind. „Aber was wird nicht gezeigt?“, fragt Stilgoe. "Unfälle." Die Autopiloten von Uber, Tesla und andere Unternehmen hätten teils fatale Fehler verursacht. Die Daten seien noch nicht umfassend genug, um beispielsweise gewisse Objekte auf der Straße erkennen zu können. Es gelte, dass Unternehmen rücksichtsvoller mit diesen Daten umgehen müssten.

An das Potenzial des Autopiloten, sicher von A nach B zu befördern, glaubt Stilgoe aber schon. „Selbstfahrende Autos können künftig schon sicher sein, aber der Mensch baut Mist“, sagt Stilgoe. "Wir werden müde, sind manchmal betrunken oder schlecht gelaunt." Da können sich Fehler einschleichen. Fehler von Menschen führen zu Fehlern bei Maschinen. Daher gilt es, Forschungen umfassender zu betreiben.

Umfassende Verkehrssituationen

An der Universität Darmstadt geschieht das auch. Stefan Roth und sein Team haben neben Echtzeitdaten, die allerdings begrenzt sind, auch welche aus Open World Simulationen gesammelt, um so viele Verkehrssituationen wie möglich zu generieren. So wird die Künstliche Intelligenz mit Daten umfassend gefüttert, wie er in seinem Vortrag „Künstliche Intelligenz und Robotik“ erklärt hat.

Und dennoch sind sich die Wissenschaflter klar: Im Bereich des autonomen Fahrens ist noch viel Forschung und Zeit nötig, damit das Fahren mit Autopiloten künftig sicherer sein kann, als mit einem menschlichen Fahrer.