Künstliche Intelligenz und Compliance

Künstliche Intelligenz (KI) kann eine große Hilfestellung sein – auch für Compliance. Genauso kann sie aber zum Problem werden – ebenfalls aus Compliance-Sicht. Einen ersten kurzen Überblick gibt Prof. Dr. Stefan Behringer in diesem Beitrag.

Chat GPT, inzwischen in Version 4 verfügbar, ist seit Ende 2022 in aller Munde. Der einfache Zugang gibt allen Interessierten die Möglichkeit, auszuprobieren, was Künstliche Intelligenz zu leisten imstande ist – und eben auch nicht leisten kann. Es ist erstaunlich, was das neue Tool kann. Aber es ist auch erschreckend, wie viele Fehlinformationen durch Chat GPT verbreitet werden. Künstliche Intelligenz kommt eben doch an seine Grenzen.

Für viele Berufsfelder und Bereiche des täglichen Lebens hat diese neue Technologie enorme Wirkungen, die heute in ihrer ganzen Tragweite noch nicht zu überschauen sind. Auch für die Funktionen im Bereich Risk, Fraud und Compliance ergeben sich erhebliche Herausforderungen. Künstliche Intelligenz kann präventiv wirken, Kontrollen übernehmen oder Informationen liefern. So können Chatbots Compliance Help Desks übernehmen, zumindest für standardisierbare Abfragen. Das Problem wird sein, dass Aussagen, was eindeutig verboten und erlaubt ist, gut automatisierbar sind. Aber die Zwischentöne, wo es keine ganz eindeutigen Regeln gibt, werden nur schwer durch Chatbots zu übernehmen sein.

Überlegungen, dass Künstliche Intelligenz Entscheidungsvorschläge macht, die auch genutzt werden können, die Einhaltung der Business Judgement Rule zu belegen, gibt es in der wissenschaftlichen Literatur. Dabei gehen manche Wissenschaftler so weit, die Verwendung von Algorithmen verpflichtend zu machen, um eine neutrale Entscheidung zu belegen. Da die Künstliche Intelligenz Stereotypen in ihre Entscheidungen einbezieht, ist dieser Vorschlag sicherlich (noch) nicht umsetzbar, zeigt aber die mögliche Tragweite eines Einsatzes von Künstlicher Intelligenz auf. Ausserdem kann die KI Muster entwickeln, die auf eigentlich irrelevanten Kriterien beruhen. Auch dadurch können Fehlentscheidungen entstehen. Das Problem dabei: Der verwendete Algorithmus ist nicht transparent nachvollziehbar.

Neben den Chancen eines Einsatzes von Künstlicher Intelligenz im Compliance-Management selbst, wird das Vordringen von KI Compliance noch auf andere Weise beschäftigen: Die Regulierung von Künstlicher Intelligenz selbst muss eingehalten werden und Teil jedes Compliance-Managements werden. Auch hier warten viele Herausforderungen auf Compliance-Manager. Hier ist zu schauen, wie sich die Regulierung entwickelt. Lernende Systeme, wie sie KI darstellen, entwickeln in ihrer Einsatzzeit ständig neue Muster, wie sie Entscheidungen treffen. Welche Muster das sind, hängt im Wesentlichen von den Daten ab, mit der die Künstliche Intelligenz arbeitet. Dies wiederum liegt nicht mehr im Einflussbereich des Herstellers der KI, sondern in den Händen des Anwenders. Insofern ist die Verantwortung für das, was das Produkt macht, nicht eindeutig zuzuordnen.

Prof. Dr. Stefan Behringer