Warum eine Fahrprüfung für KI nicht reicht

Warum eine Fahrprüfung für KI nicht reicht

Eine Mülltonne am Straßenrand bewegt sich plötzlich.

Ein Mensch schließt daraus sofort: Dahinter schiebt jemand, vielleicht ein Kind. Eine trainierte KI erkennt eine Mülltonne und fährt vorbei.

An solchen Stellen entscheidet sich, ob ein automatisiertes Fahrsystem auf die Straße darf. Eine Fahrprüfung von 45 Minuten zeigt sie nicht.

In der neuen Folge von Autonomobil spreche ich mit jemandem, der beide Seiten kennt: die KI-Forschung bei einem Hersteller und die Frage, wie man die Sicherheit solcher Systeme nachweist.

Wer Steven Peters ist

Steven Peters ist Professor für Fahrzeugtechnik an der TU Darmstadt und leitet dort seit 2022 das Fachgebiet Fahrzeugtechnik (FZD). Davor hat er bei Mercedes-Benz das Team für KI-Forschung aufgebaut und geleitet.

Sein Fachgebiet forscht daran, wie sich automatisierte Fahrsysteme absichern lassen, für Pkw und für Lkw.

Mit ihm bin ich bewusst bei den Grundlagen eingestiegen: Was muss die Software können, wenn kein Mensch mehr fährt? Wahrnehmen, das Verhalten der anderen vorhersagen, die eigene Fahrt planen und sie ausführen. Planen und Ausführen hält er für beherrschbar. Schwierig sind die ersten beiden Schritte.

Drei Punkte aus dem Gespräch.

1. Die KI sagt nicht, wenn sie etwas nicht kennt

Feste Regeln funktionieren, solange sich die Umgebung vollständig beschreiben lässt, etwa auf einem Werksgelände. In der offenen Welt reicht ein ungewöhnlicher Hut, und die Regel greift nicht mehr. Trainierte Systeme verallgemeinern deutlich besser.

Dafür haben sie eine andere Schwäche. Peters beschreibt die KI „wie ein unehrlicher Praktikant“: viel gelernt, wenig Erfahrung, und im Zweifel sagt er immer, er könne es. Was das System nicht kennt, ordnet es der nächstliegenden Klasse zu.

Er erzählt von einem Versuch, bei dem ein Elefant in eine europäische Straßenszene gesetzt wurde. Selbst der Entwickler des Netzes konnte nicht vorhersagen, was es daraus macht. Harmlos, wenn ein Lkw herauskommt. Gefährlich, wenn ein gebückter Mensch in der Dämmerung als Mülltonne gilt und das Fahrzeug mit 50 km/h und einem Meter Abstand vorbeifährt.

Eine Prüfung nach dem Muster der Fahrschule hält er deshalb für zu kurz gegriffen. Wer ein Fahrzeug zwei Millionen Mal im Jahr verkauft, begegnet früher oder später Situationen, die in keinem Trainingsdatensatz waren.

2. Die Messlatte ist der kompetente, vorsichtige Mensch

Vor zehn Jahren lautete das Ziel oft: statistisch besser als der Mensch. Peters hält das für überholt. Unter den Verkehrstoten sind viele Unfälle mit Alkohol oder zu hoher Geschwindigkeit. Ein System, das diese vermeidet und dafür Unfälle verursacht, die einem aufmerksamen Menschen nie passiert wären, steht statistisch gut da und wird trotzdem nicht akzeptiert.

Der Maßstab ist nach seiner Darstellung der kompetente, vorsichtige Mensch. Und der kann etwas, das in keiner Unfallstatistik steht: Er merkt, dass es vorne eng wird, fährt langsamer als erlaubt, und es passiert nichts. Vermiedene Unfälle meldet niemand. Dieses Vorausahnen steckt nach seiner Einschätzung Stand heute nicht in den Systemen.

3. Der Sicherheitsnachweis ist der teuerste Teil

Ein System, das augenscheinlich gut fährt, ist noch kein Produkt. Der Hersteller muss begründen, warum er es für sicher hält, einschließlich der Situationen, an die niemand gedacht hat. Peters nennt diesen Nachweis den Hauptkostentreiber und den Hauptgrund, warum es nicht schneller geht.

Auf Simulation allein würde er sich Stand heute nicht verlassen, weil jede Simulation die Welt vereinfacht. Es bleiben Testgelände und reale Kilometer mit Sicherheitsfahrern, zu zweit im Fahrzeug, im halbstündlichen Wechsel.

Am schwierigsten wird es bei End-to-End-Systemen, die aus Kamerabildern direkt Fahrbefehle ableiten. Sie fahren souveräner als modular aufgebaute Systeme. Für Level 4 hält er sie Stand heute für nicht absicherbar. Dazu kommt die Frage, was ein Software-Update mit einem bereits erbrachten Nachweis macht.

Was das für die Genehmigungsseite bedeutet

Die UN-Regelung zu automatisierten Fahrsystemen, im Juni verabschiedet, setzt denselben Maßstab wie Peters: Das Sicherheitsniveau muss mindestens dem eines kompetenten und sorgfältigen Fahrers entsprechen.

Einen Zahlenwert dazu nennt sie nicht. Der Hersteller muss selbst herleiten, wie gut dieser Fahrer fährt, und es der Behörde in einem Safety Case darlegen.

Damit landet die Arbeit an einer Stelle, die Peters als ungelöst beschreibt: Aus Unfalldaten allein lässt sich dieses Niveau nicht ablesen, weil die vermiedenen Unfälle darin fehlen.

Das ist meine Lesart. Geprüft habe ich sie an der Vorlage der Regelung vom April 2026.

Fazit

Den Vorwurf, die deutschen Hersteller würden das Thema verschlafen, hält Peters für falsch. Wer seit Jahrzehnten Unfälle auswertet, weiß, was im Verkehr schiefgehen kann, und unterschreibt eine Freigabe entsprechend vorsichtig.

Seine Hoffnung für die nächsten fünf Jahre ist konkret: fahrerlose Lkw auf den großen Fernachsen, automatisierte Busse im ÖPNV und ein Level-3-System für die Autobahn, das auch bei Nacht und Regen fährt. Das Robotaxi sieht er nicht als Kerngeschäft der Autohersteller.

Offen bleibt, wie sich trainierte Systeme für Level 4 absichern lassen und wie viel Nachweis ein Update kostet. Daran forscht sein Fachgebiet.