So verhilft KI autonomem Fahren zum Durchbruch

Ein Mann im Osterhasen-Kostüm, der mit seinem Fahrrad plötzlich auf die Straße fährt. Es folgt: Die Schrecksekunde bei der Autofahrerin, ein Blick in den Rückspiegel, der Tritt auf die Bremse. Die Fahrerin reißt das Lenkrad herum. Ein reflexartiger Prozess. Ob es den Osterhasen wirklich gibt, spielt in dieser Situation keine Rolle.

Ganz anders, wenn Künstliche Intelligenz am Steuer sitzt. Das Szenario „Osterhase auf Fahrrad“ hat sie nicht „gelernt“ und kann somit das Objekt vor sich nicht eindeutig identifizieren. Wie sie reagiert, ist unklar. Im schlimmsten Fall ist die KI „verwirrt“ und trifft die falsche Entscheidung.

Ein fast schon legendärer Testlauf zum autonomen Fahren von US-Wissenschaftlern zeigte, was so eine Verwirrung der KI bedeuten kann: Wegen eines Aufklebers auf einem Stoppschild interpretierte die KI das Schild nicht als Kommando zum augenblicklichen Anhalten – sondern als Tempolimit. Das System hat eine ihm bekannte Option gewählt, statt eine Warnung auszugeben. Falsch berechnete Entscheidungen wie diese können fatale Folgen haben.

Unübersichtliche Wirklichkeit

„Eine Wahrnehmungs-KI, die noch nie einen Skater gesehen hat, hat keine Chance, ihn richtig zu identifizieren,“ bringt es Sven Fülster, einer der vier Gründer des Berliner Start-Ups Deep Safety, auf den Punkt. Dieser Herausforderung sieht sich die ganze Branche gegenüber. Das 2020 gegründete Unternehmen hat sich zum Ziel gesetzt, das größte Problem des autonomen Fahrens zu lösen: Künstliche Intelligenz fit zu machen für die Unübersichtlichkeit des realen Lebens.

In manchen Situationen hat die KI keine Chance.
Sven Fülster

Zum Glück ist der radelnde Osterhase eine große Seltenheit. Denn grundsätzlich kann KI im Straßenverkehr zu mehr Sicherheit führen. Menschliches Versagen wird für mehr als 90 Prozent aller Verkehrsunfälle verantwortlich gemacht. KI-Systeme können eine schier unüberschaubare Menge von Daten gleichzeitig lesen, berechnen und interpretieren. Sie lassen sich nicht vom Smartphone, Radio oder ihren Mitfahrenden ablenken. Sie ermüden nicht, solange die Stromversorgung und die Technik einwandfrei funktionieren. Und je mehr neues Datenfutter sie verarbeiten, desto präziser arbeiten sie.

Doch im echten Leben gibt es so unermessliche Kombinationsmöglichkeiten, dass nicht jede Eventualität trainiert und getestet werden kann. Der Super-Gau ist, dass die technischen Systeme unvorhergesehene Verkehrssituationen falsch interpretieren: im Verkehr, beim Stoppschild. Oder dem Osterhasen.

Eine Fahrschule für die künstliche Intelligenz

Wird es also jemals möglich sein, im unübersichtlichen Gewusel einer Rush-hour sicher durch London, Köln, Paris oder Berlin zu fahren und dabei ganz entspannt am Lenkrad die Zeitung zu lesen? „Klar,“ sagen die Entrepreneure von Deep Safety und schicken ihre KI in die Fahrschule. „Wir entwickeln eine KI, die sagen kann, dass sie etwas nicht kennt.“

Wie das geht, erklärt Fülster, CEO des jungen Unternehmens: „Mit unserer Technologie kann ein fahrerloses Auto die Welt auf einer viel tieferen Ebene verstehen. Wir haben umgesetzt, was der Mensch in der Fahrschule lernt: vorausschauend fahren, die Bewegungen anderer verstehen und antizipieren.“

Wir entwickeln eine KI, die sagen kann, dass sie etwas nicht kennt.
Sven Fülster

„BetterAI“, die „bessere KI“, heißt ihr Produkt. „Wir wissen, dass KI im Gegensatz zu Menschen unbekannte Situationen auf unvorhersehbare Weise interpretiert. ‚BetterAI‘ ist die erste nach dem Sicherheitsstandard ISO26262 zertifizierbare KI, die unbekannte Situationen, unbekannte Dinge und Menschen erkennt, die etwas Unbekanntes tun“, beschreiben die Entrepreneure ihr Produkt.

So kann die Wahrnehmungs-KI von Deep Safety zuverlässig mit nicht gelernten Situationen und Grenzfällen im Straßenverkehr umgehen. Sie kann auch den Osterhasen auf dem Fahrrad erkennen – vielleicht nicht als verkleideten Familienvater, aber doch als ein nicht identifizierbares Objekt, zu dem Abstand gehalten werden sollte. KIs in aktuellen Fahrzeugmodellen können dies nicht.

Datenanalyse in Echtzeit

Warum dies lange Zeit unmöglich schien, erklärt Sebastian Hempel, der bei Deep Safety für die Entwicklung der Technologie verantwortlich ist: „Die Herausforderung ist, dass die Analyse der Wahrnehmungsdaten in Echtzeit ablaufen muss. Die Berechnung eines Bildes dauert sehr lange. Und pro Sekunde müssen 30 Bilder berechnet werden.“ Die KI von Deep Safety hat dieses Problem gelöst. Die App funktioniert sogar auf dem Smartphone.

Die Analyse der Wahrnehmungsdaten muss in Echtzeit ablaufen.
Sebastian Hempel

Der Wettbewerb um die beste Technologie für das autonome Fahren ist weltweit in vollem Gange. Auch die großen Automobil- und Tech-Konzerne finden seit Jahren keine umfassende Lösung für diese Probleme. Zwar kamen punktuell immer wieder selbstfahrende Fahrzeuge zum Einsatz. Nach Zwischenfällen wurde deren Betrieb aber wieder ausgesetzt.

Die Gründer von Deep Safety sind überzeugt, derlei Fehlinterpretationen mit ihrer Technologie künftig vermeiden zu können. Und sie haben eine große Vision: „Unser kurzfristiges Ziel ist die Verbesserung der Fahrerassistenzsysteme, die derzeit auf der Straße unterwegs sind“, sagt Fülster. „Mittelfristig wird unsere ‚BetterAI‘ den Fahrer im Fahrzeug überflüssig machen. Im dritten Schritt wollen wir das autonome Fahren tatsächlich in die Stadt bringen.“

Wir wollen das autonome Fahren in die Stadt bringen.
Sven Fülster

Damit der Traum vom Zeitunglesen am Steuer Wirklichkeit werden kann, muss noch viel passieren. Deep Safety ist mit seiner Technologie ein Teil davon. „Das ist ein Durchbruch“, sagt Fülster. „Wir tragen dazu bei, dass die Menschen autonomes Fahren akzeptieren und die Technologie angenommen wird“. Um die Sicherheit im Stadtverkehr für alle zu steigern.