Innovativ – und jetzt?

Der Verordnungsentwurf der Europäischen Kommission zur Regulierung künstlicher Intelligenz vom 21. April 2021 (KI-VO) nimmt sich einer umfassenden Regulierung eines zentralen zukunftsträchtigen Themas an. Lesen Sie hier Auszüge aus dem ausführlichen Beitrag von Jan Pohle aus der Oktober-Ausgabe des Compliance-Beraters.

KI dringt als ein Treiber der Digitalisierung in immer mehr Leibensbereiche vor: ob im Finanz- und Versicherungssektor, im Verkehrs- und Gesundheitswesen oder im Sicherheitsbereich. KI ist überall und das weltweit. Auch wenn 61 % der Europäer KI gegenüber positiv eingestellt sind, sehen immerhin 88 % KI skeptisch. Darauf hat die Kommission mit ihrem Vorschlag reagiert. Wird dieser verabschiedet, müssen Unternehmen in erheblichem Maße tätig werden, um die Vorgaben der Verordnung zu erfüllen, so sie künstliche Intelligenz entwickeln, vertreiben oder auch nur nutzen wollen.

Trotz differenzierter Reaktionen der EU-Mitgliedstaaten auf das Weißbuch, hat die EU-Kommission eine KI-VO vorgeschlagen, die für Anbieter von KI oder deren Ergebnisse im EU-Kontext ebenso einen erheblichen Mehraufwand bedeuten würde, wie für Nutzer, Importeure und Vertriebsmittler. Ziel der neuen Verordnung ist es sicherzustellen, dass alle KI-Systeme in der EU sicher sind und zu bestehenden Grundrechten und EU-Werten nicht im Widerspruch stehen. Gleichzeitig will die Kommission durch Schaffung von Rechtssicherheit Investitionen und Innovationen im Bereich KI erleichtern und so den Binnenmarkt für rechtmäßige, sichere und vertrauenswürdige KI-Systeme entwickeln.

In persönlicher Hinsicht knüpft Art. 2 Abs. 1 lit a) bis c) KI-VO die Anwendbarkeit der KI-VO an die jeweilige Tätigkeit der möglichen Akteure an. Adressaten der Verordnung sind Anbieter von KI-Systemen, die diese in der EU in Verkehr bringen oder in Betrieb nehmen, unabhängig vom Ort ihrer Niederlassung, Nutzer von KI-Systemen, die sich in der Union befinden und Anbieter und Nutzer von KI-Systemen unabhängig vom Ort ihrer Niederlassung, wenn das vom System hervorgebrachte Ergebnis in der Union verwendet wird. Der Begriff des Anbieters, der unmittelbar bzw. mittelbar Entwickler von KI-Systemen erfasst, und der des Nutzers werden in diesem Zusammenhang in Art. 3 Nr. 2 und 4 definiert. Mit der niederlassungsunabhängigen Definition des Art. 2 Abs. 1 lit c) KI-VO geht der Anwendungsbereich der Verordnung territorial über das Gebiet der EU hinaus.

Bestimmte KI-Praktiken verbietet die KI-VO in Art. 5 KI-VO insgesamt. Hierzu zählt z.B. die Verwendung sog. unterschwelliger Techniken außerhalb des Bewusstseins einer Person, um das Verhalten einer Person in einer Weise wesentlich zu beeinflussen, die körperlichen oder psychischen Schaden verursacht oder verursachen kann.

Die Regulierung hochriskanter KI-Systeme bildet sachlich-technisch den wesentlichen Schwerpunkt der KI-VO, die in Art. 6 KI-VO definiert sind. In der Definition von Hochrisiko-KI liegt eine zentrale Weichenstellung für die Anwendung zahlreicher und regelungsintensiver Bestimmungen der KI-VO. Da die Kommission die Definition infolge der bewusst offenen und damit dynamischen Gestaltung des Anhang III, auf den Art. 6 KI-VO verweist, in Zukunft anpassen und weitere Techniken aufnehmen kann, empfiehlt es sich für Unternehmen mit möglichen Berührungspunkten, sich für den Fall, dass die KI-VO verabschiedet wird, nicht nur mit der dann aktuellen Definition von Hochrisiko-KI im Detail auseinanderzusetzen und zu eruieren, ob vertriebene oder genutzte KI-Systeme als hochriskant einzustufen sind, sondern die Rechtsentwicklung insoweit laufend zu überwachen.

Derzeit nimmt das Gesetzgebungsverfahren um die KI-VO seinen vorgegebenen Lauf, dessen Abschluss nicht vor 2023 zu erwarten ist. In der Annahme, dass der Entwurf mit diesem Regelungsgehalt im Wesentlichen Bestand haben wird, sollten Unternehmen den weiteren Gesetzgebungsprozess beobachten und rechtzeitig Vorkehrungen treffen, um nicht von dem Inkrafttreten der Verordnung überrascht zu werden – auch wenn der Entwurf derzeit eine 24-monatige Vorlauffrist vorsieht. Beantworten sollten sie rechtzeitig insbesondere, ob ihr jeweiliger Tätigkeitsbereich sie als Anbieter, Händler, Importeur oder autorisierter Repräsentant im Sinne der Verordnung qualifiziert. In einem nächsten Schritt sollten alle Akteure prüfen, ob die verwendeten KI-Systeme als hochriskant i. S. v. Art. 6 KI-VO einzustufen sind. Trifft das zu, ist den Unternehmen angeraten, sich und ihre außereuropäischen Vertragspartner auf die umfassenden und vielfältigen Dokumentations-, Überwachungs-, Transparenz- und Mitteilungspflichten vorzubereiten, indem sie Zuständigkeiten klären und erste entsprechende Prozesse entwickeln. Es lohnt sich allein angesichts drastischer Bußgelddrohungen die Aufgaben zu identifizieren, zu konzeptionieren und zu implementieren.

Jan Pohle