Vertrauenswürdigkeit in autonomen Systemen

Ob „KI-basiert“, „hochautomatisiert“ oder sogar „autonom“: Wir befinden uns an der Schwelle zu einer Welt, in der wir Menschen es mit einer völlig neuen cyber-physischen Systemklasse zu tun haben werden, die selbstständig Entscheidungen trifft und Aktionen ausführt. Anders als bisherige Systeme werden diese neuartigen Systeme in einer offenen, nicht abschließend spezifizierbaren Umgebung agieren und gleichzeitig ein Verhalten aufweisen, dass von Menschen nicht im Vorfeld vollständig abgeschätzt werden kann. Autonom fahrende Autos werden selbstständig Entscheidungen treffen, wie in bestimmten Verkehrssituationen agiert werden muss, Roboter in der Pflege und Medizin werden selbstständig mit Patienten interagieren und moderne Energieleitsysteme werden eigenständig unsere Energieversorgung sicherstellen. So wie wir Menschen uns heute darauf verlassen, dass der Fahrer eines entgegenkommenden Fahrzeugs sein Fahrzeug erwartungskonform steuern wird und ein Operator in einem Leitstand nicht mutwillig das Energiesystem ausschaltet, so werden wir uns zukünftig darauf verlassen wollen und müssen, dass autonome Systeme unsere gesellschaftlichen aber auch individuellen Wertvorstellungen selbstständig als Leitlinie für ihr Agieren heranziehen. Die interdisziplinäre Arbeit an entsprechenden Konzepten und Technologien durch technische bzw. Natur-Wissenschaften wie Mathematik, Physik und Informatik zusammen mit Geistes- und Gesellschaftswissenschaften wird notwendig sein, um technische Fragestellungen mit Fragestellung der Ethik, Moral, Psychologie, Soziologie, Recht und Politik integriert in der Fachdisziplin Autonomik zu untersuchen und Lösungen für „vertrauenswürdige autonome Systeme made in Germany“ zu schaffen.

Dieser SafeTRANS Industrial Day widmete sich daher der Frage, wie wir uns wissenschaftlich, wirtschaftlich und politisch bereits heute positionieren sollten, um in Deutschland zu Beginn der 2030er Jahre Vorreiter im Bereich Vertrauenswürdigkeit autonomer Systeme zu werden und dies zu einem Erfolgsfaktor für den Technologie-Standort Deutschland in Europa werden zu lassen.