KI: Schlüsseltechnologie mit Herausforderungen

Sprachassistenten, Gesichtserkennung, Streaming – Anwendungen, bei denen Künstliche Intelligenz (KI; englisch: Artificial Intelligence) eine große Rolle spielen, gehören längst zu unserem Alltag. Und spätestens seit dem Hype um den Chatbot ChatGPT ist das Thema KI in aller Munde.

In der Automobilindustrie werden schon lange KI-basierte Systeme in verschiedenen abgesicherten und geprüften Bereichen verwendet – und zwar in der gesamten Wertschöpfungskette, also bei allen Produktionsschritten vom Rohmaterial bis zum Endprodukt. Meist sind die Anwendungen in gewöhnlicher Software eingebettet und unterstützen oder optimieren bereits bestehende Systeme. Zukünftig werden weitere Einsatzfelder hinzukommen, da KI eine Schlüsseltechnologie bei der zunehmenden Automatisierung und Entwicklung der Industrie 4.0 ist.

Sicher scheint: Der enorme Anstieg der Leistungsfähigkeit von KI und ihrer verschiedenen Anwendungsfelder bietet gewaltige Chancen für die Wissenschaft, Wirtschaft und Gesellschaft. Nur wird dieser Boom auch von wichtigen und berechtigten Fragestellungen begleitet. Noch ungeklärt sind beispielsweise rechtliche Positionen wie zum urheberrechtlichen Schutz von Produkten oder dem Umgang in Gefahrensituationen, die insbesondere für die Fahrzeug- und Zuliefererindustrie angesichts der Weiterentwicklungen in der Produktion und beim automatisierten und autonomen Fahren von höchster Bedeutung sind. Kurzum: Es braucht dringend einen verbindlichen gesetzlichen Rahmen.

Die gute Nachricht: Europa könnte weltweit der erste Standort mit einem einheitlichen staatenübergreifenden Rechtsrahmen für den Umgang mit KI sein. Bereits im April 2021 – lange bevor ChatGPT intensiv diskutiert wurde – veröffentlichte die Europäische Kommission einen entsprechenden Regulierungsvorschlag. Anfang Dezember 2022 legte der EU-Rat einen gemeinsamen Standpunkt zum „Gesetz über Künstliche Intelligenz“ (englisch: Artificial Intelligence Act, AI-Act) fest. Am 14. Juni 2023 hat sich das EU-Parlament auf eine Position zu dem Gesetzesentwurf verständigt.

Autonomes und vernetztes Fahren, intelligente Produktion, Design, Infotainment: KI spielt bei verschiedenen Aspekten der Mobilität von morgen eine elementare Rolle – mit dem Ziel, Fahrzeuge effizienter, nutzerfreundlicher und sicherer zu machen und andererseits auch Produktionsabläufe zu optimieren.

Auch deshalb begrüßt der VDA ausdrücklich, dass ein gesetzlicher Rahmen für die Entwicklung und den rechtssicheren Einsatz von KI geschaffen wird – und bringt seine Branchenexpertise während der Trilog-Verhandlungen ein. Der VDA und seine Mitgliedsunternehmen, insbesondere OEMs und große Zulieferer, sehen jedoch noch Anpassungsbedarf an mehreren Stellen der aktuellen Fassung. Nachzulesen sind die gemeinsam erarbeiteten Kritikpunkte und Forderungen im jüngst veröffentlichten VDA-Positionspapier zur KI-Verordnung.

Die Grundidee des AI-Acts ist ein horizontaler Regulierungsrahmen. Das heißt, die Vorgaben sind nicht branchenbezogen, sondern gelten gleichzeitig für mehrere Sektoren und Lebensbereiche. Aber erst, wenn die Regulierungen sektorspezifisch für die Automobilindustrie und konkret für Anwendungen im Fahrzeug vorliegen, sind sie für die Unternehmen umsetzbar. Auch problematisch: Im Gesetz wird auf Standards und Normen verwiesen, deren Ausarbeitung noch mehrere Jahre dauern wird.

„Aktuell besteht das Risiko, dass für die Vielzahl der Anwendungen unpassende Regeln verabschiedet werden, die letztlich Innovationen und den Einsatz von KI hemmen können. Wir setzen uns dafür ein, dass die fahrzeugspezifischen Zulassungsverfahren samt Normen und Standards im AI-Act berücksichtigt und praxistauglich ausgestaltet werden“, sagt Anja Misselbeck.

Eine weitere Besonderheit der Verordnung ist ihr risikobasierter Regulierungsansatz. Demnach werden die KI-Anwendungen in vier Risikogruppen aufgeteilt: von niedrig bis hochriskant und schließlich zu verbotenen Praktiken. Je höher das Schädigungspotenzial, das von den KI-Systemen für Anwender und mögliche Dritte ausgehen kann, desto strenger die Auflagen. In die Hochrisiko-Gruppe (High-Risk) etwa sollen Anwendungen fallen, die vermeintlich Grundrechte oder Gesundheit von Menschen bedrohen könnten.

In diesem Zusammenhang wäre es für die Automobilindustrie problematisch, wenn der Begriff „Sicherheitskomponente“ für die Einstufung eines Hochrisiko-KI-Systems weiterhin so ausufernd definiert wird. Denn in der aktuellen Begriffsbestimmung heißt es: „Für die Zwecke dieser Verordnung bezeichnet der Ausdruck ‚Sicherheitskomponente eines Produkts oder Systems‘ einen Bestandteil eines Produkts oder Systems, der eine Sicherheitsfunktion für dieses Produkt oder System erfüllt oder dessen Ausfall oder Störung die Gesundheit und Sicherheit von Personen oder Sachen gefährdet.“ Mit dieser Begriffsbestimmung könnte im ungünstigsten Fall alles im und um das Fahrzeug in die Kategorie Hochrisiko fallen – also auch rein technische Prozesse ohne Gefährdungspotenzial wie in der Entwicklung und Fertigung oder bei der Überwachung von Produkten und Systemen. Darüber hinaus könnten alle zulassungsrelevanten Fahrzeugbauteile und deren Anwendungen am Ende den sehr strengen Auflagen unterliegen. „Das gilt es zu vermeiden“, sagt Anja Misselbeck und weiter: „Es sollen nur die Anwendungen scharf reguliert werden, von denen in der Praxis tatsächlich massive Gefahren und Risiken ausgehen können.“

Der Verordnungsentwurf sieht vor, dass High-Risk-Systeme von Dritten zertifiziert und geprüft werden müssen. Solche Bewertungen bedeuten einen erheblichen zusätzlichen Aufwand, hohe Kosten und sollten daher nur in unbedingt erforderlichen Fällen angewendet werden. Nach aktuellem Stand wären davon jedoch auch zahlreiche kleinste KI-Anwendungen wie Sensor- und Kameraeinstellungen betroffen.

Anja Misselbeck: „Entscheidend bei der notwendigen Konkretisierung des Hochrisiko-Bereichs ist, dass die Anforderungen für die Automobilunternehmen technisch umsetzbar sind. Wir wollen klare Regelungen, aber sie müssen praktikabel und spezifischer sein, damit KI-Entwicklerinnen und Entwickler damit arbeiten können.“

Die vorgesehenen Transparenzpflichten für KI-Anwendungen dürfen nicht mit dem Schutz von Geschäftsgeheimnissen kollidieren. Außerdem besteht die Gefahr, dass es zu regulatorischen Überschneidungen oder Widersprüchen kommt, zum Beispiel bei Cybersicherheit oder beim Datenschutz. Statt zusätzlicher neuer Vorschriften wäre eine Ergänzung der bestehenden Vorgaben im Automobilsektor zu begrüßen.

Insgesamt gehen die Regularien für die Nutzung von Daten und Datensätzen teilweise zu weit, da häufig überhaupt noch nicht ausreichend Daten für alle KI-Anwendungsfälle in der Branche vorhanden sind, um unvoreingenommen an das Thema heranzugehen. Für die Entwicklung von sicheren KI-Anwendungen benötigt die Branche im ersten Schritt einen größeren Fundus an Trainingsdaten, um Situationen virtuell darstellen zu können: „Zukünftig können wir in KI-gestützten Simulationen viel mehr Situationen abbilden und testen, in denen Menschen mit KI in Berührung kommen. Die gewonnenen Daten helfen zum Beispiel, um in Gefahrensituationen adäquater reagieren zu können“ – so Anja Misselbeck.

Die Beispiele verdeutlichen: Die europäische KI-Verordnung wird auf die Unternehmen der Automobil- und Zuliefererindustrie massive Auswirkungen haben. Der VDA setzt sich im weiteren Trilogprozess dafür ein, dass die Perspektive der Industrie stärker berücksichtigt und entsprechende Änderungen vorgenommen werden. Anderenfalls drohen Deutschland und Europa international an Wettbewerbsfähigkeit zu verlieren.

Viele Menschen verbinden KI auf Anhieb mit selbstfahrenden Autos – aber für Automobilunternehmen ist sie auch wegweisende Technologie, um die Fahrzeugtechnik, Produktion und Konnektivität zu modernisieren. Grundlage für den Einsatz ist dabei der stets verantwortungsvolle Umgang mit KI-Lösungen.

Einige Beispiele: In der Forschung und Entwicklung (FuE) kann KI die Innovationsgeschwindigkeit erhöhen und gleichzeitig die Kosten für innovative Technologien senken. Beispielhaft sind hier CAD-Modelle („computer-aided design“) und KI-basierte Simulationen zu nennen, die Kosten bei der Erstellung von Prototypen einsparen. In der Produktion optimiert KI die Wartung von Maschinen und reduziert Ausfallzeiten, sodass durch Störungen verursachte Kosten gesenkt und Ausfallzeiten besser eingeplant werden können. Grundlage hierfür ist das sog. KI-Verfahren „Anomalieerkennung“, dass anhand bestimmter Parameter auftretende Abweichungen in Daten sekundenschnell erkennt und meldet.

Produkte, die ausschließlich KI-Software enthalten, ausschließlich über KI-Anwendungen betrieben und kontrolliert werden oder deren Anwendungen sämtliche Schritte eigenständig und ohne menschliches Eingreifen absolvieren, gibt es gegenwärtig in der Automobilindustrie nicht.

Fest steht: Die deutsche Automobilindustrie will auch in Zukunft die klimafreundlichsten, sichersten, effizientesten und modernsten Autos der Welt bauen. Das Engagement der deutschen Automobilindustrie bei der Entwicklung der KI-Gesetzgebung in Europa steht für die Entschlossenheit der Branche, die Transformation zu einer internationalen Erfolgsgeschichte zu machen. Ein verantwortungsvoller Einsatz von KI wird dazu beitragen, dass sich die Fahrzeuge noch individueller auf die Bedürfnisse der Insassen einstellen können. Dazu tragen auch Anwendungen bei, die die Häufigkeit und Schwere von Unfällen reduzieren oder Sprachassistenten in Fahrzeugen verbessern.

Dazu zwei Beispiele von VDA-Mitgliedsunternehmen: