KI-Sicherheit in autonomen Fahrzeugen und Flugverkehr

Das Wichtigste in Kürze

Mykel Kochenderfer forscht an der Stanford University an der Sicherheit und Zuverlässigkeit von KI-Systemen.
Sein Fokus liegt auf Anwendungen, bei denen Fehler schwerwiegende Folgen haben können, wie bei autonomen Fahrzeugen und im Flugverkehr.
Eine zentrale Herausforderung ist die Zuverlässigkeit von KI-Entscheidungen trotz ungenauer Sensordaten und unvorhersehbarem Verhalten.
Kochenderfer betont, dass die Sicherheit von KI-Systemen in der realen Welt komplexer ist als oft angenommen.
Seine Arbeit soll dazu beitragen, dass künstliche Intelligenz die Gesellschaft fair, vertrauenswürdig und verlässlich unterstützt.

KI-Sicherheit in kritischen Anwendungsbereichen

Mykel Kochenderfer leitet das Stanford Intelligent Systems Laboratory und forscht an der Sicherheit von künstlicher Intelligenz. Seine Arbeit konzentriert sich auf Systeme, die Entscheidungen unter Unsicherheit treffen müssen. Diese kommen in Bereichen wie der Flugverkehrskontrolle, bei unbemannten Fluggeräten und in autonomen Fahrzeugen zum Einsatz, wo Fehler schwerwiegende Folgen haben können.

Die Herausforderungen der realen Welt

Die Gewährleistung der Sicherheit von KI-Systemen in der realen Welt ist laut Kochenderfer komplexer als oft angenommen. Ein System muss auch dann sicher agieren, wenn es mit unvorhersehbarem Verhalten und ungenauen Sensordaten konfrontiert wird. Diese Systeme müssen die Effizienz der Fortbewegung, die Komplexität von Bewegungen bei hohen Geschwindigkeiten und die technologischen Grenzen von Sensoren in Einklang bringen.

Vertrauen als Grundlage für die Zukunft

Die Forschung von Kochenderfer ist Teil einer größeren Diskussion darüber, wie künstliche Intelligenz der Gesellschaft fair und verlässlich dienen kann. Denn nur wenn die Zuverlässigkeit solcher Systeme nachgewiesen ist, können sie erfolgreich und sicher in unseren Alltag integriert werden. Die Arbeit an der Vertrauenswürdigkeit ist somit eine wesentliche Grundlage für den zukünftigen Erfolg von KI-Technologien.

Unsere Einschätzung

Die Forschung von Mykel Kochenderfer verdeutlicht eine entscheidende Hürde bei der Entwicklung von künstlicher Intelligenz, denn während die Leistungsfähigkeit von KI stetig zunimmt, bleibt ihre Anwendung in der unvorhersehbaren realen Welt eine Herausforderung. Seine Arbeit ist nicht nur für autonome Fahrzeuge relevant, sondern für alle automatisierten Systeme, die physisch mit ihrer Umgebung interagieren, beispielsweise in der Logistik oder der fortschrittlichen Fertigung. Es wird deutlich, dass die Grundlagenforschung im Bereich Sicherheit das Tempo vorgibt, in dem sich KI-Technologien sicher etablieren können. Die bloße Fähigkeit, eine Aufgabe zu erfüllen, reicht nicht aus; die garantierte Sicherheit unter widrigen Umständen ist der eigentliche Maßstab.