Künstliche Intelligenz – den ersten Schritt vor dem zweiten tun!
Die Bundesregierung möchte Deutschland zu einem führenden Standort für Künstliche Intelligenz (KI) machen. Hierfür haben die Ministerien für Wirtschaft, Forschung und Arbeit ein gemeinsames Eckpunktepapier für eine nationale KI-Strategie erarbeitet, das vom Kabinett am 18.7.2018 verabschiedet wurde und bis zum November weitere Konturen erfahren soll. Dabei ähnelt das Papier in vielerlei Hinsicht denen anderer Nationen (USA, Großbritannien, Frankreich, Kanada, Indien, Neuseeland und Japan), welche schon in der Vergangenheit ihre Pläne zum Umgang mit KI vorgestellt haben. Neben der Absicht, sich dem technologischen Paradigmenwechsel, dessen Auswirkung auf den Arbeitsmarkt sowie dem Wettbewerb zu stellen, bleiben sie – anders als das chinesische Positionspapier – inhaltlich allesamt recht vage und formulieren stattdessen große Ziele. Das deutsche Eckpunktepapier spricht etwa davon „Deutschland zum weltweit führenden Standort für KI“ werden zu lassen (1a)) und – sofern man die juristische Zielsetzung in den Vordergrund rückt – möchte man „für die rechtlichen Grenzen der Nutzung künstlicher Intelligenz sensibilisieren und prüfen, ob der Ordnungsrahmen für ein hohes Maß an Rechtssicherheit weiterentwickelt werden muss“ (1l)). Im Handlungsfeld „Ordnungsrahmen anpassen und Rechtssicherheit gewährleisten“ (3.9) werden sodann fünf Punkte benannt, die hierbei eine besondere Berücksichtigung erfahren sollen, u. a. wird die Anpassung des Rechtsrahmens bei der Anwendung von KI-Technologie proklamiert.
Diesen Anspruch verfolgt nun nicht nur die Bundesregierung, sondern bei nahezu jedem rechtswissenschaftlichen Austausch findet derzeit auch eine Auseinandersetzung zu Rechtsfragen um die „Künstliche Intelligenz“ statt, gleich ob es sich um einen fachlichen Diskurs zum Vertragrecht, zum Kartellrecht oder zum Recht des Geistigen Eigentums handelt. Dies ist in Anbetracht der Bedeutung des Themas für die nächsten Jahre wohl auch vollkommen richtig. Erschreckend ist allerdings wie pauschal der Begriff „Künstliche Intelligenz“ eingesetzt wird. Eine Differenzierung zwischen den verschiedenen Formen einer digitalen Unterstützung findet häufig nicht mehr statt. Als Künstliche Intelligenz – so reibt man sich dann verwundert die Augen – gilt nahezu alles, was sich softwaregestützt bzw. durch Algorithmen angetrieben bewegt. Um ein Beispiel aus der fabrikbezogenen Anwendung zu benennen, werden darunter von den sich selbst regelnden Maschinen über sich optimierenden Maschinen bis hin zu den selbst lernenden Maschinen subsumiert. Hier bestehen aber erhebliche Unterschiede, die in der Folge auch eine differenzierte rechtliche Herangehensweise erfordern – insofern ist es wichtig zunächst den Begriff der „Künstlichen Intelligenz“ zu schärfen – namentlich den ersten Schritt vor dem zweiten zu tun.
In den digitalisierten und vernetzten Produktionsunternehmen – um beim Beispiel der Fabrikplanung zu bleiben – kennen schon heute autonome und intelligente Systeme ihre Fähigkeiten und Ziele. Sie sind in der Lage ohne eine zentrale Instanz selbständig mit ihrer Umwelt zu interagieren. Eine Produktionsmaschine ermittelt direkt oder auf der Grundlage einer Big Data Analyse die Kundenwünsche, sie weiß, wo sie das Werkstück bestellen kann, interagiert mit Dienstleistern oder Zulieferern über IT- und Cloud-Systeme und lotst die Zulieferteile alleine durch die Weitergabe von Algorithmen über sensorgestützte Transport-, Abnahme- und Logistikeinheiten zur Weiterverarbeitung an die richtige Stelle in der Fabrik. Es handelt sich dabei um sog. selbst regelnde Maschinen und Systeme, die sowohl vertikal (also innerhalb des Unternehmens) als auch horizontal (über die Unternehmensgrenzen hinweg) miteinander verbunden sind. Ein schönes Beispiel hierfür ist das an der TU München entstandene robotergestützte Abfüllkonzept für die individualisierte Getränkeherstellung und -abfüllung „RoboFill 4.0“. Hier holt sich die Abfüllmaschine im Online-Kundenportal der Brauerei Weihenstephan den Auftrag des Kunden selbständig ab, an¬
Erst sobald die Maschinen – Mensch-Maschine-Hybride, autonom agierende Roboter-Systeme – losgelöst von einem ursprünglichen Programmbefehl auf der Basis von massenhaft eingespeisten und erhobenen Daten(mustern) und darauf aufbauenden „maschinellen Lernprozessen“ ganz eigene Entscheidungen treffen können und in der Lage sein werden, nicht nur aus vorgegebenen Handlungsalternativen die geeignete Option selbst auszuwählen („sauer“ = Zitrone oder Limette), sondern eigenständig vollkommen neue z. B. Geschmacksrichtungen zu kreieren, die zuvor eben nicht von menschlicher Hand zur Auswahl angelegt waren (sog. selbst erlernende Maschine), handelt es sich um die vielzitierte „Künstliche Intelligenz“. Die „Artifakte“ sind der menschlichen Steuerung entzogen; sie setzen eigene Kausalverläufe in Gang, d. h. sie bestimmen Arbeitsinhalte nach eigenem Ermessen – auch arbeitsteilig sowie betriebsübergreifend – und übernehmen selbständig die abschließende Qualitätskontrolle mit dem Ziel der ständigen Optimierung. Sie kreieren und verändern ohne das Zutun eines Menschen ihre Funktionsweisen und realisieren unter anderem fortwährend und ebenfalls ohne menschliche Steuerung den „klassischen PDCA-Zyklus“ (plan – do – check – act). Das System, welches mit seinem „eigenen Qualitätsmanagement“ ausgestattet sein wird, entfernt sich auf diese Weise fortwährend von seinen ursprünglichen Vorgaben und wird autonom. Erst für diese Kategorie von Systemen werden überhaupt nur die im Eckpunktepapier angesprochenen Anpassungen notwendig – was derzeit allerdings nicht allen damit befassten Kreisen bekannt zu sein scheint – hier ist eine Klärung dringend geboten.
Ferner sind im Eckpunktepapier bei Laibe nicht alle Rechtsbereiche angesprochen, die eine Umgestaltung erfordern; es werden nur die Naheliegenden kurz benannt (Datensicherheit, Privatheit, Geistiges Eigentum), während andere – für die Industrie deutlich relevantere Bereiche – komplett ausgeblendet werden. Man denke etwa an den Bereich der Betriebs-, Arbeits- und Produktsicherheit. Dieser zentrale Bereich in der Fabrikation wird erheblichen Veränderungen ausgesetzt sein. Aus produktsicherheitsrechtlicher Sicht stellt sich beispielsweise die Frage, wer als Adressat für die produktsicherheistrechtlichen Pflichten und Überwachungsmaßnahmen solcher KI-Systeme gelten kann. Ferner werden sich die bislang klar voneinander getrennten Regelungsbereiche, namentlich das Produktsicherheitsrecht auf der einen Seite sowie das Betriebssicherheitsrecht auf der anderen Seite jetzt nicht mehr nur berühren, sondern sich weithin vermischen. Hierdurch wird jedoch nicht nur die Einordnung in die anzuwendenden rechtlichen Rahmenbedingungen/Anforderungen erschwert (Produktsicherheit vs. Betriebssicherheit), die ihrerseits in dem einen als auch in dem anderen Bereich nicht mehr passend sind (z. B. weil sich der Begriff des Inverkehrbringers bzw. Betreibers ändert; die Risiko- und Gefährdungsbeurteilung neue Dimensionen erreicht), sondern auch die Zuordnung von produktspezifischen Pflichten und Verantwortlichkeiten sowie am Ende die (technischen) Prüfung und jedwede Form der aktiven und passiven Marktüberwachung, welche gerade im Produkt- und Betriebssicherheitsrecht völlig unterschiedliche Überwachungsstrukturen vorhalten und obendrein den verschiedensten Akteuren auf Länder- aber auch Bundesebene zugeordnet sind.
Als Fazit kann daher festgestellt werden, dass es das oberste Ziel eines neuen Ordnungsrahmens für künftige Anwendungsfälle der KI sein muss, zuerst den Begriff der „Künstlichen Intelligenz“ zu schärfen, bevor man sich anschließend – und dann sehr viel konkreter, als dies im Eckpunktepapier erfolgt ist – mit einem klaren Anwendungsbezug den Rechtsbereichen zuwenden kann, die dann auch tatsächlich eine Anpassung bzw. Neujustierung erfahren müssen.
Prof. Dr. Dagmar Gesmann-Nuissl*
* | Mehr über die Autorin erfahren Sie auf Seite XI. |