R&W Abo Buch Datenbank Veranstaltungen Betriebs-Berater
Logo ruw-online
Logo ruw-online
Suchmodus: genau  
 
 
CNL 2021, 6
Pohle 

Innovativ – und jetzt?

Der Verordnungsentwurf der Europäischen Kommission zur Regulierung künstlicher Intelligenz vom 21. April 2021 (KI-VO) nimmt sich einer umfassenden Regulierung eines zentralen zukunftsträchtigen Themas an. Lesen Sie hier Auszüge aus dem ausführlichen Beitrag von Jan Pohle aus der Oktober-Ausgabe des Compliance-Beraters.

Abbildung 6

KI ist überall und weltweit und darum nun auch ein Fall für die EU-Regulierung.

KI dringt als ein Treiber der Digitalisierung in immer mehr Leibensbereiche vor: ob im Finanz- und Versicherungssektor, im Verkehrs- und Gesundheitswesen oder im Sicherheitsbereich. KI ist überall und das weltweit. Auch wenn 61 % der Europäer KI gegenüber positiv eingestellt sind, sehen immerhin 88 % KI skeptisch. Darauf hat die Kommission mit ihrem Vorschlag reagiert. Wird dieser verabschiedet, müssen Unternehmen in erheblichem Maße tätig werden, um die Vorgaben der Verordnung zu erfüllen, so sie künstliche Intelligenz entwickeln, vertreiben oder auch nur nutzen wollen.

Trotz differenzierter Reaktionen der EU-Mitgliedstaaten auf das Weißbuch, hat die EU-Kommission eine KI-VO vorgeschlagen, die für Anbieter von KI oder deren Ergebnisse im EU-Kontext ebenso einen erheblichen Mehraufwand bedeuten würde, wie für Nutzer, Importeure und Vertriebsmittler. Ziel der neuen Verordnung ist es sicherzustellen, dass alle KI-Systeme in der EU sicher sind und zu bestehenden Grundrechten und EU-Werten nicht im Widerspruch stehen. Gleichzeitig will die Kommission durch Schaffung von Rechtssicherheit Investitionen und Innovationen im Bereich KI erleichtern und so den Binnenmarkt für rechtmäßige, sichere und vertrauenswürdige KI-Systeme entwickeln.

In persönlicher Hinsicht knüpft Art. 2 Abs. 1 lit a) bis c) KI-VO die Anwendbarkeit der KI-VO an die jeweilige Tätigkeit der möglichen Akteure an. Adressaten der Verordnung sind Anbieter von KI-Systemen, die diese in der EU in Verkehr bringen oder in Betrieb nehmen, unabhängig vom Ort ihrer Niederlassung, Nutzer von KI-Systemen, die sich in der Union befinden und Anbieter und Nutzer von KI-Systemen unabhängig vom Ort ihrer Niederlassung, wenn das vom System hervorgebrachte Ergebnis in der Union verwendet wird. Der Begriff des Anbieters, der unmittelbar bzw. mittelbar Entwickler von KI-Systemen erfasst, und der des Nutzers werden in diesem Zusammenhang in Art. 3 Nr. 2 und 4 definiert. Mit der niederlassungsunabhängigen Definition des Art. 2 Abs. 1 lit c) KI-VO geht der Anwendungsbereich der Verordnung territorial über das Gebiet der EU hinaus.

Bestimmte KI-Praktiken verbietet die KI-VO in Art. 5 KI-VO insgesamt. Hierzu zählt z.B. die Verwendung sog. unterschwelliger Techniken außerhalb des Bewusstseins einer Person, um das Verhalten einer Person in einer Weise wesentlich zu beeinflussen, die körperlichen oder psychischen Schaden verursacht oder verursachen kann.

Die Regulierung hochriskanter KI-Systeme bildet sachlich-technisch den wesentlichen Schwerpunkt der KI-VO, die in Art. 6 KI-VO definiert sind. In der Definition von Hochrisiko-KI liegt eine zentrale Weichenstellung für die Anwendung zahlreicher und regelungsintensiver Bestimmungen der KI-VO. Da die Kommission die Definition infolge der bewusst offenen und damit dynamischen Gestaltung des Anhang III, auf den Art. 6 KI-VO verweist, in Zukunft anpassen und weitere Techniken aufnehmen kann, empfiehlt es sich für Unternehmen mit möglichen Berührungspunkten, sich für den Fall, dass die KI-VO verabschiedet wird, nicht nur mit der dann aktuellen Definition von Hochrisiko-KI im Detail auseinanderzusetzen und zu eruieren, ob vertriebene oder genutzte KI-Systeme als hochriskant einzustufen sind, sondern die Rechtsentwicklung insoweit laufend zu überwachen.

Derzeit nimmt das Gesetzgebungsverfahren um die KI-VO seinen vorgegebenen Lauf, dessen Abschluss nicht vor 2023 zu erwarten ist. In der Annahme, dass der Entwurf mit diesem Regelungsgehalt im Wesentlichen Bestand haben wird, sollten Unternehmen den weiteren Gesetzgebungsprozess beobachten und rechtzeitig Vorkehrungen treffen, um nicht von dem Inkrafttreten der Verordnung überrascht zu werden – auch wenn der Entwurf derzeit eine 24-monatige Vorlauffrist vorsieht. Beantworten sollten sie rechtzeitig insbesondere, ob ihr jeweiliger Tätigkeitsbereich sie als Anbieter, Händler, Importeur oder autorisierter Repräsentant im Sinne der Verordnung qualifiziert. In einem nächsten Schritt sollten alle Akteure prüfen, ob die verwendeten KI-Systeme als hochriskant i. S. v. Art. 6 KI-VO einzustufen sind. Trifft das zu, ist den Unternehmen angeraten, sich und ihre außereuropäischen Vertragspartner auf die umfassenden und vielfältigen Dokumentations-, Überwachungs-, Transparenz- und Mitteilungspflichten vorzubereiten, indem sie Zuständigkeiten klären und erste entsprechende Prozesse entwickeln. Es lohnt sich allein angesichts drastischer Bußgelddrohungen die Aufgaben zu identifizieren, zu konzeptionieren und zu implementieren.

Jan Pohle

Abbildung 7

Jan Pohle ist Rechtsanwalt und Partner bei DLA Piper UK LLP, Köln. Schwerpunkte seiner Tätigkeit sind Digitalisierung, Outsourcing, Datenschutz und Cybercrime. Er ist Autor zahlreicher Veröffentlichungen zum IT- und Datenschutzrecht sowie Lehrbeauftragter der Universität Oldenburg (Informationsrecht).

 
stats