Künstliche Intelligenz – den ersten Schritt vor dem zweiten tun!

Die Bundesregierung möchte Deutschland zu einem führenden Standort für Künstliche Intelligenz (KI) machen. Hierfür haben die Ministerien für Wirtschaft, Forschung und Arbeit ein gemeinsames Eckpunktepapier für eine nationale KI-Strategie erarbeitet, das vom Kabinett am 18.7.2018 verabschiedet wurde und bis zum November weitere Konturen erfahren soll. Dabei ähnelt das Papier in vielerlei Hinsicht denen anderer Nationen (USA, Großbritannien, Frankreich, Kanada, Indien, Neuseeland und Japan), welche schon in der Vergangenheit ihre Pläne zum Umgang mit KI vorgestellt haben. Neben der Absicht, sich dem technologischen Paradigmenwechsel, dessen Auswirkung auf den Arbeitsmarkt sowie dem Wettbewerb zu stellen, bleiben sie – anders als das chinesische Positionspapier – inhaltlich allesamt recht vage und formulieren stattdessen große Ziele. Das deutsche Eckpunktepapier spricht etwa davon „Deutschland zum weltweit führenden Standort für KI“ werden zu lassen (1a)) und – sofern man die juristische Zielsetzung in den Vordergrund rückt – möchte man „für die rechtlichen Grenzen der Nutzung künstlicher Intelligenz sensibilisieren und prüfen, ob der Ordnungsrahmen für ein hohes Maß an Rechtssicherheit weiterentwickelt werden muss“ (1l)). Im Handlungsfeld „Ordnungsrahmen anpassen und Rechtssicherheit gewährleisten“ (3.9) werden sodann fünf Punkte benannt, die hierbei eine besondere Berücksichtigung erfahren sollen, u. a. wird die Anpassung des Rechtsrahmens bei der Anwendung von KI-Technologie proklamiert.

Diesen Anspruch verfolgt nun nicht nur die Bundesregierung, sondern bei nahezu jedem rechtswissenschaftlichen Austausch findet derzeit auch eine Auseinandersetzung zu Rechtsfragen um die „Künstliche Intelligenz“ statt, gleich ob es sich um einen fachlichen Diskurs zum Vertragrecht, zum Kartellrecht oder zum Recht des Geistigen Eigentums handelt. Dies ist in Anbetracht der Bedeutung des Themas für die nächsten Jahre wohl auch vollkommen richtig. Erschreckend ist allerdings wie pauschal der Begriff „Künstliche Intelligenz“ eingesetzt wird. Eine Differenzierung zwischen den verschiedenen Formen einer digitalen Unterstützung findet häufig nicht mehr statt. Als Künstliche Intelligenz – so reibt man sich dann verwundert die Augen – gilt nahezu alles, was sich softwaregestützt bzw. durch Algorithmen angetrieben bewegt. Um ein Beispiel aus der fabrikbezogenen Anwendung zu benennen, werden darunter von den sich selbst regelnden Maschinen über sich optimierenden Maschinen bis hin zu den selbst lernenden Maschinen subsumiert. Hier bestehen aber erhebliche Unterschiede, die in der Folge auch eine differenzierte rechtliche Herangehensweise erfordern – insofern ist es wichtig zunächst den Begriff der „Künstlichen Intelligenz“ zu schärfen – namentlich den ersten Schritt vor dem zweiten zu tun.

In den digitalisierten und vernetzten Produktionsunternehmen – um beim Beispiel der Fabrikplanung zu bleiben – kennen schon heute autonome und intelligente Systeme ihre Fähigkeiten und Ziele. Sie sind in der Lage ohne eine zentrale Instanz selbständig mit ihrer Umwelt zu interagieren. Eine Produktionsmaschine ermittelt direkt oder auf der Grundlage einer Big Data Analyse die Kundenwünsche, sie weiß, wo sie das Werkstück bestellen kann, interagiert mit Dienstleistern oder Zulieferern über IT- und Cloud-Systeme und lotst die Zulieferteile alleine durch die Weitergabe von Algorithmen über sensorgestützte Transport-, Abnahme- und Logistikeinheiten zur Weiterverarbeitung an die richtige Stelle in der Fabrik. Es handelt sich dabei um sog. selbst regelnde Maschinen und Systeme, die sowohl vertikal (also innerhalb des Unternehmens) als auch horizontal (über die Unternehmensgrenzen hinweg) miteinander verbunden sind. Ein schönes Beispiel hierfür ist das an der TU München entstandene robotergestützte Abfüllkonzept für die individualisierte Getränkeherstellung und -abfüllung „RoboFill 4.0“. Hier holt sich die Abfüllmaschine im Online-Kundenportal der Brauerei Weihenstephan den Auftrag des Kunden selbständig ab, an¬InTeR 2018 S. 105 (106)schließend ruft sie die für das gewünschte Mischverhältnis erforderlichen Produktzutaten ab, beauftragt das flexible Füllsystem mit dem Mischen der Getränke und veranlasst anschließend die autonom arbeitenden Produktionsmodule wie den Rinser, Füller, Verschließer und Etikettierer selbsttätig zur Aktion bis das verkaufsfähige Produkt entstanden ist. Gehen die Zutaten, Flaschenteile oder Etiketten zur Neige, bestellt die Maschine selbsttätig nach und löst die erforderlichen logistischen Prozesse aus. Auch Wartungsaufträge kann die Maschine selbstständig erteilen – sie agiert dabei über sensorgesteuerte cyper-physiche Systeme. In naher Zukunft werden diese dezentral interagierenden Einheiten sogar produktrelevante Komponenten, Zusammensetzungen oder prozessrelevante Transport- und Auslieferungswege selbständig innerhalb der Wertschöpfungskette optimieren können. Sofern wir bei dem Beispiel der Abfüllanlage bleiben, könnten die Systeme nun die Zutaten verändern, sprich anstatt Zitronen jetzt Limetten bestellen, wenn bei der im Hintergrund ablaufenden Analyse der Kundenwünsche und -daten festgestellt würde, dass sich deren Neigungen in Richtung „sauer“ bewegt und der Steuerungsbefehl ein Entscheidungsmuster „Limette“ zur Auswahl stellt (sog. selbst optimierende Maschine). Bei beiden Systemen handelt es sich aber nicht um Künstliche Intelligenz, sondern es liegt lediglich eine Weiterentwicklung der Fabrikautomatisierung über das Setzen weiterer Programmbefehle vor. Diesen Systemen ist immanent, dass der Mensch die Handlungsalternativen vorgibt, was für den Juristen bedeutet, dass er auch als Zuordnungssubjekt u. a. für die Haftung sowie als Inhaber geistigen Eigentums in Betracht zu ziehen ist. Der bestehende Ordnungsrahmen muss hier gerade keine gravierenden Änderungen erfahren.

Erst sobald die Maschinen – Mensch-Maschine-Hybride, autonom agierende Roboter-Systeme – losgelöst von einem ursprünglichen Programmbefehl auf der Basis von massenhaft eingespeisten und erhobenen Daten(mustern) und darauf aufbauenden „maschinellen Lernprozessen“ ganz eigene Entscheidungen treffen können und in der Lage sein werden, nicht nur aus vorgegebenen Handlungsalternativen die geeignete Option selbst auszuwählen („sauer“ = Zitrone oder Limette), sondern eigenständig vollkommen neue z. B. Geschmacksrichtungen zu kreieren, die zuvor eben nicht von menschlicher Hand zur Auswahl angelegt waren (sog. selbst erlernende Maschine), handelt es sich um die vielzitierte „Künstliche Intelligenz“. Die „Artifakte“ sind der menschlichen Steuerung entzogen; sie setzen eigene Kausalverläufe in Gang, d. h. sie bestimmen Arbeitsinhalte nach eigenem Ermessen – auch arbeitsteilig sowie betriebsübergreifend – und übernehmen selbständig die abschließende Qualitätskontrolle mit dem Ziel der ständigen Optimierung. Sie kreieren und verändern ohne das Zutun eines Menschen ihre Funktionsweisen und realisieren unter anderem fortwährend und ebenfalls ohne menschliche Steuerung den „klassischen PDCA-Zyklus“ (plan – do – check – act). Das System, welches mit seinem „eigenen Qualitätsmanagement“ ausgestattet sein wird, entfernt sich auf diese Weise fortwährend von seinen ursprünglichen Vorgaben und wird autonom. Erst für diese Kategorie von Systemen werden überhaupt nur die im Eckpunktepapier angesprochenen Anpassungen notwendig – was derzeit allerdings nicht allen damit befassten Kreisen bekannt zu sein scheint – hier ist eine Klärung dringend geboten.

Ferner sind im Eckpunktepapier bei Laibe nicht alle Rechtsbereiche angesprochen, die eine Umgestaltung erfordern; es werden nur die Naheliegenden kurz benannt (Datensicherheit, Privatheit, Geistiges Eigentum), während andere – für die Industrie deutlich relevantere Bereiche – komplett ausgeblendet werden. Man denke etwa an den Bereich der Betriebs-, Arbeits- und Produktsicherheit. Dieser zentrale Bereich in der Fabrikation wird erheblichen Veränderungen ausgesetzt sein. Aus produktsicherheitsrechtlicher Sicht stellt sich beispielsweise die Frage, wer als Adressat für die produktsicherheistrechtlichen Pflichten und Überwachungsmaßnahmen solcher KI-Systeme gelten kann. Ferner werden sich die bislang klar voneinander getrennten Regelungsbereiche, namentlich das Produktsicherheitsrecht auf der einen Seite sowie das Betriebssicherheitsrecht auf der anderen Seite jetzt nicht mehr nur berühren, sondern sich weithin vermischen. Hierdurch wird jedoch nicht nur die Einordnung in die anzuwendenden rechtlichen Rahmenbedingungen/Anforderungen erschwert (Produktsicherheit vs. Betriebssicherheit), die ihrerseits in dem einen als auch in dem anderen Bereich nicht mehr passend sind (z. B. weil sich der Begriff des Inverkehrbringers bzw. Betreibers ändert; die Risiko- und Gefährdungsbeurteilung neue Dimensionen erreicht), sondern auch die Zuordnung von produktspezifischen Pflichten und Verantwortlichkeiten sowie am Ende die (technischen) Prüfung und jedwede Form der aktiven und passiven Marktüberwachung, welche gerade im Produkt- und Betriebssicherheitsrecht völlig unterschiedliche Überwachungsstrukturen vorhalten und obendrein den verschiedensten Akteuren auf Länder- aber auch Bundesebene zugeordnet sind.

Als Fazit kann daher festgestellt werden, dass es das oberste Ziel eines neuen Ordnungsrahmens für künftige Anwendungsfälle der KI sein muss, zuerst den Begriff der „Künstlichen Intelligenz“ zu schärfen, bevor man sich anschließend – und dann sehr viel konkreter, als dies im Eckpunktepapier erfolgt ist – mit einem klaren Anwendungsbezug den Rechtsbereichen zuwenden kann, die dann auch tatsächlich eine Anpassung bzw. Neujustierung erfahren müssen.

Prof. Dr. Dagmar Gesmann-Nuissl*