Compliance und Ethik-Leitlinien

Prolog:

Es war einmal ein Mädchen, dem wurde eindeutig eine rote Kappe zugeordnet, wodurch es als Rotkäppchen definiert wurde. „Kind“, argumentierte die Mutter, „werde kreativ, mathematisiere die kürzeste Verbindung zur Großmutter, analysiere aber nicht die Blumen am Wege, sondern formuliere deinen Weg in systematischer Ordnung.“
Friedrich Wille (* 5. Januar 1935; † 9. August 1992), deutscher Mathematiker und Professor an der Universität Kassel.

Die ethischen KI-Leitlinien der europäischen Union (EU)

Bereits im Oktober 2018 haben wir hier in unserem Blog mit dem Beitrag Compliance und Maschinenwesen (RPA) ausführlich über die neuen Möglichkeiten und Gefahren von Robotern und künstlicher Intelligenz (KI) berichtet.

Aus aktuellem Grund möchten wir diesen Beitrag ergänzen, da die europäische Union (EU) ein 52-köpfiges internationales Expertenteam beauftragt hat, zum ersten Mal ethische Leitlinien im Hinblick auf KI und Compliance zu erstellen. Am 8. April 2019 wurden nun diese Leitlinien durch die EU veröffentlicht. Zu den Grundinhalten dieser ethischen Leitlinien gehören:

  • Vorrang menschlichen Handelns und menschlicher Aufsicht
  • Robustheit und Sicherheit
  • Privatsphäre und Datenqualitätsmanagement
  • Transparenz
  • Vielfalt, Nichtdiskriminierung und Fairness
  • gesellschaftliches und ökologisches Wohlergehen
  • Rechenschaftspflicht

Bevor wir nun hier in unserem Compliance Blog diese Leitlinien veröffentlichen, ein kurzer Einstieg in die Thematik. Ausführlich wird das Thema etwas weiter unten in unserem Blog-Beitrag beschrieben.

Künstliche Intelligenz (KI) – Ein alter Hut

Ist Künstliche Intelligenz eine innovative und neue Thematik unserer Zeit? Sicher nicht! Der Begriff selbst wurde bereits im Jahr 1955 erstmals von John McCarthy erwähnt und definiert. Für McCarthy bestand das Ziel von KI darin, „Maschinen zu entwickeln, die sich verhalten, als verfügten sie über Intelligenz.“ Einige Jahre später erfand der Wissenschaftler den legendären LISP-Computer, der Programme schrieb, die sich selbst verändern konnten. Bereits hier zeigt sich eine der grundlegenden und typischen Eigenschaften von KI-Algorithmen.

Die Programmiersprache LISP (englisch List Processing / deutsch Listen-Verarbeitung) gilt nach Fortran (IBM / 1953) als zweitälteste Programmiersprache der Welt, die bis heute noch verbreitet und genutzt wird.

Was bedeutet KI?

Die Künstliche Intelligenz (KI) bietet schon jetzt Unternehmen aus vielen Branchen extrem hohe Möglichkeiten und Chancen. Nimmt man als Ansatz die Wechselwirkung zwischen dem unternehmerischen Risiko und den gesetzten Zielen, sieht man schnell, welchen Beitrag Künstliche Intelligenz für Compliance, Governance and Risk Aktivitäten für das Unternehmen erzielen kann.

Laut einer aktuellen Studie aus dem Jahr 2019 sehen 500 Unternehmen in Deutschland den Einsatz von KI in den Segmenten:

  • Datenanalyse für Entscheidungsprozesse (70%)
  • Prozessautomatisierung bestehender Geschäftsprozesse (63%)
  • Chatbots (47%)
  • wesentlicher Bestandteil neuer digitaler Geschäftsmodelle (44%)
  • Speech Processing (42%)
  • Bestandteil von Produkten und Dienstleistungen (39%)

Betrachtet man nur die beiden erst genannten Einsatzmöglichkeiten von KI, welche für ein Unternehmen bereits jetzt oder in der nahen Zukunft an Wichtigkeit gewinnen werden, so erkennt man schnell, wie sehr sich die KI in das Aufgabenumfeld eines Compliance Officers integrieren wird. Kontrolliert momentan der Mensch noch die Daten für Entscheidungen oder ist ein Mensch maßgeblich in die laufenden Geschäfts- und Entscheidungsprozesse eingebunden und verantwortlich, so wird in der Zukunft die KI immer mehr in diese internen Abläufe eingreifen. Genau hier definieren sich neue Risiken im Unternehmen und neue Aufgabenbereiche der Compliance.

Neue Aufgabenbereiche und Risiken

Darüber hinaus verändert der Einsatz von KI und Robotern in der Produktion oder Chatbots im Unternehmen auch die Risikoszenarien. Der Arbeitsschutz und die Arbeitszeiten spielen bei einem KI-gestützten Roboter natürlich keine Rolle, auch die Frage der Korruption stellt sich bei einem KI-gestützten Algorithmus nicht. Der Umkehrschluss ist, dass sich demzufolge neue Fragen und Aufgabenbereiche zu Compliance, Governance and Risk Aktivitäten im Unternehmen der Zukunft stellen:

  • Ist die Software oder der Roboter extern manipulierbar?
  • Sind die Quellcodes nicht einsehbar und geschützt?
  • Wie schützt man sich gegen Hackerangriffe?
  • Sind die Veränderungen durch KI nachvollziehbar und transparent?
  • Wie kommuniziert das Unternehmen den Einsatz von KI?
  • Entspricht das gewünschte Ergebnis immer den rational optimierten Anwendungen von internen oder externen Ressourcen?
  • Was macht die Compliance-Abteilung, wenn Software falsch programmiert ist, also das Ergebnis oder die Handlung (Output) nicht dem geplanten, gewollten oder gewünschten Ergebnis entspricht?

Momentan bestehen die Aufgaben eines Compliance Officers in der Kontrolle und Analyse menschlichen Handelns zur Vermeidung von Risiken oder in der Aufdeckung und Abwehr von Gefahren, die intern oder extern das Unternehmen bedrohen. Ein logischer und unabdingbarer Schritt, zum Beispiel mit der Ausbildung und Integration eines IT-Compliance Officers, wird es sein, diesen Gefahren und Risiken in der Zukunft entgegen zu treten. Gleiches gilt selbstverständlich auch bei der Entwicklung neuer Produkte oder Unternehmensschwerpunkte. Hier müssen bereits bei der frühen Planung neue Risiko-Szenarien, ausdrücklich auch im Bereich der Compliance, in Verbindung mit den Möglichkeiten durch KI, mit einfließen und signifikant beachtet werden.

Was genau ist aber nun KI eigentlich?

Der Begriff der Künstlichen Intelligenz wird definiert als die Wissenschaft und Entwicklung intelligenter Maschinen und Computerprogramme zur Umsetzung unternehmerischer Anforderungen und Ziele. Explizit geht es um die Entwicklung und Realisation eines Computergehirns, welches wie ein Mensch denkt und agiert bzw. um Maschinen und Roboter, die nicht nur Handlungen, sondern im weiteren auch Entscheidungen übernehmen werden.

Intelligenz: Ich lerne, Du lernst, Wir lernen

Es steht außer Frage: KI ist bereits jetzt, obwohl in vielen Branchen noch im Anfangsstadium, nicht nur einer der wichtigsten technologischen Fortschritte unserer Zeit, sondern wird unausweichlich wegweisend für einen Großteil der gesamten Geschäftswelt in den kommenden Jahren sein. Ob nun im geschäftlichen oder privaten Bereich, wird man sich dieser Technologie nicht entziehen können.

Alles dies setzt eines zwingend voraus: Intelligenz.

Der Begriff Intelligenz leitet sich vom dem lateinischen Wort »intellegere« ab, was so viel wie »verstehen, erkennen, einsehen« bedeutet und damit bereits anhand dieser Übersetzung auf eine schnelle Auffassungsgabe in gleichermaßen vertrauten und ungewohnten Situationen verweist. Vereinfachend wird Intelligenz definiert als die Fähigkeit des Geistes, Zusammenhänge zu erkennen und Probleme zu lösen. Doch eine einzige, allgemeingültige Definition gibt es nicht.

Nach dem heute gängigen Drei-Schichten-Modell aus dem Jahr 1993 von John Bissell „Jack“ Carroll, einem US-amerikanischen pädagogischen Psychologen, Psycholinguisten und Intelligenzforscher, dürfen wir uns die menschliche Intelligenz wie ein Unternehmen im Gehirn vorstellen, in der es einen Vorstand (Generalfaktor), mehrere Abteilungen (Sekundärfaktoren) und bis zu 70 Arbeitsgruppen (Einzelfaktoren) gibt. Mit der Künstlichen Intelligenz setzt sich dieses Drei Schichten Modell fort, natürlich mit anderen – aber doch dem der menschlichen Intelligenz zumindest vergleichbaren – Faktoren.

Die Evolution der Künstlichen Intelligenz ist vergleichbar zu einem Schirm. Maschinelles Lernen und Deep Learning sind beide unter dem Schirm der Künstlichen Intelligenz angesiedelt und zwar genau in dieser Reihenfolge. Ohne Künstliche Intelligenz gäbe es kein Maschinelles Lernen. Und Deep Learning hat seinen Ursprung im Maschinellen Lernen. Trotzdem wäre es durchaus logisch, den Schirm einfach umzudrehen. Denn für Deep Learning sind nach oben keine Grenzen gesetzt.

Der Unterschied zwischen den drei Arten von Künstlicher Intelligenz und Lernen lässt sich einfach verstehen, wenn man diese mit vertrauten Prozessen des Trainings und der Ausbildung vergleicht.

  • Künstliche Intelligenz ähnelt dem Vorgang, einem Auszubildenden genau die Information zu vermitteln, die er lernen soll.
  • Maschinelle Intelligenz / Maschinelles Lernen ist vergleichbar mit einem Auszubildenden, dem man ein Buch in die Hand drückt, sodass er sich den Lernstoff selbst erarbeitet.
  • Deep Learning entspricht dem des Maschinellen Lernens. Der Unterschied ist aber, dass der Auszubildende in der Lage ist, aus seinen Fehlern zu lernen und sich kontinuierlich zu verbessern.

Im Fall von Künstlicher Intelligenz, Maschinellem Lernen und Deep Learning sind die Auszubildenden Maschinen und die Lehrbücher Daten. Bei der Künstlichen Intelligenz wird die Maschine mit einem endlosen Strom an Daten gefüttert. Beim Maschinellen Lernen und bei Deep Learning hingegen nutzt die Maschine externe Quellen wie das Internet oder Sensoren.

Stellt man die menschliche Intelligenz der Künstlichen Intelligenz gegenüber, wird ein grundlegender Aspekt schnell deutlich: War es schon immer fast unmöglich, menschliche Intelligenz klar und eindeutig zu definieren, so wird es spannend sein, ob dies jemals auch mit Künstlicher Intelligenz möglich sein wird. Fragt man heute 10 Forscher nach einer klaren Definition der menschlichen Intelligenz so erhält man im Zweifelsfall 10 unterschiedliche Definitionen. Wie will man dann, jetzt oder in 10 Jahren, Künstliche Intelligenz eindeutig definieren und wird es erforderlich sein, dann wieder neue (oder alt hergebrachte) Definitionen der menschlichen Intelligenz zu erforschen oder zu überdenken?

Die praxisbezogene Anwendung und der Einsatz von Künstlicher Intelligenz ist nun schon lange nicht mehr ein theoretischer Ausblick in die Zukunft, sondern wird bereits heute in der täglichen und praxisorientierten unternehmerischen Umgebung eingesetzt. Bereits jetzt können Softwarelösungen und Roboter lernen, selbst Aufgaben auszuführen und Entscheidungen zu treffen. Bestes Beispiel sind hier Applikationen, die bereits heute Entscheidungen im Bank- und Versicherungswesen treffen.

Ali Baba und die 40 Roboter

Bevor wir nun nachfolgend hier in diesem Beitrag die von der EU verabschiedeten ethischen Compliance-Richtlinien veröffentlichen, ein Praxisbeispiel, in welcher Richtung bzw. in welchem Umfeld und Kontext diese Leitlinien in der Zukunft Anwendung finden könnten.

Alibaba, in Europa vor allem als großer chinesischer E-Commerce-Anbieter bekannt, erhofft sich dank seiner eigenen und internen KI-Forschung und der Entwicklung eigener KI-Chips mehr Innovationen für sein Kerngeschäft. Was aber machen diese KI-Chips von Alibaba genau? Nun, schon hier beginnt eine mögliche (auch ethische) Gefahr und ein nicht abzuschätzendes Risiko, denn dies weiß nur und einzig das Unternehmen Alibaba selbst. Auch im Hinblick auf ethische Grenzen und mögliche Verletzungen gibt es hier keinerlei Hinweise oder Regelungen.

Eine installierte und bereits im normalen Geschäftsbetrieb laufende KI-Anwendung bei Alibaba vereinfacht die Arbeit der nationalen und internationalen Online-Händler auf der Plattform, indem es Texte und Inhalte von der KI allein und ohne menschliche Hilfe schreiben lässt. Die KI-Software kann pro Sekunde (!) 20.000 Zeilen Content produzieren. Händler können damit ihre Produktinformationen automatisch durch die KI generieren lassen, ohne dass ein Mensch diese Zeit investieren muss. Das Programm hat Millionen bereits vorhandener Inhalte auf den verschiedenen Alibaba-Plattformen analysiert und benutzt Deep-Learning-Modelle und Technologien zur Verarbeitung natürlicher Sprache, um Content zu produzieren.

Für die Nutzung des KI-Tools müssen Händler lediglich einen Link zu einer beliebigen Produktseite eingeben und können dann aus mehreren Beispielen die passende Vorlage auswählen. Alles weitere erstellt und geniert die KI selbst. Die Erstellung des Textes ist aber nur der erste Schritt der KI. Die Händler auf der Plattform können zum Beispiel auswählen, ob der Text ihrer Produktbeschreibung werblich, poetisch oder witzig klingen soll. Bereits heute nutzen nationale und internationale Unternehmen jedweder Branche und Größe auf den verschiedenen Alibaba-Handelsplattformen täglich das Tool und die KI im Schnitt fast eine Million Mal.

Alibaba bestätigt selbst, dass hierfür bereits bestehende Chips und Algorithmen aus externen Quellen genutzt werden und diese mit internen KI-Entwicklungen modifiziert werden. Einzig, das Ergebnis aus diesen Mutationen und die künstliche Weiterentwicklung wird wohl ein internes Geheimnis bleiben. Ob hier neben praxis- oder marketingorientierten Regelungen, auch ethische Grundsätze eine Rolle spielen, wird man wohl kaum erfahren.

Die Ethische Leitlinie der EU für KI und Compliance

Hier setzt die Überlegung der EU ein und es wurden durch eine internationale Kommission Ethische Leitlinien im Hinblick auf KI und Compliance entwickelt, die am 8. April 2019 veröffentlicht wurden.

In dieser Leitlinie verankert sind sieben Anforderungen, die nicht nur Vertrauen, sondern auch einen Kontrollmechanismus in und für KI schaffen sollen. Sie betreffen Anforderungen und Fragen nach der Kontrolle, der Sicherheit, dem Datenschutz, der Nichtdiskriminierung, der Nachhaltigkeit, der Verantwortlichkeit und der Transparenz der von KI genutzten Algorithmen.

Inhalte:

  1. Vorrang menschlichen Handelns und menschlicher Aufsicht: KI-Systeme sollten gerechten Gesellschaften dienen, indem sie das menschliche Handeln und die Wahrung der Grundrechte unterstützen; keinesfalls aber sollten sie die Autonomie der Menschen verringern, beschränken oder fehlleiten.
  2. Robustheit und Sicherheit: Eine vertrauenswürdige KI setzt Algorithmen voraus, die sicher, verlässlich und robust genug sind, um Fehler oder Unstimmigkeiten in allen Phasen des Lebenszyklus des KI-Systems zu bewältigen.
  3. Privatsphäre und Datenqualitätsmanagement: Die Bürgerinnen und Bürger sollten die volle Kontrolle über ihre eigenen Daten behalten und die sie betreffenden Daten sollten nicht dazu verwendet werden, sie zu schädigen oder zu diskriminieren.
  4. Transparenz: Die Rückverfolgbarkeit der KI-Systeme muss sichergestellt werden.
  5. Vielfalt, Nichtdiskriminierung und Fairness: KI-Systeme sollten dem gesamten Spektrum menschlicher Fähigkeiten, Fertigkeiten und Anforderungen Rechnung tragen und die Barrierefreiheit gewährleisten.
  6. Gesellschaftliches und ökologisches Wohlergehen: KI-Systeme sollten eingesetzt werden, um einen positiven sozialen Wandel sowie die Nachhaltigkeit und ökologische Verantwortlichkeit zu fördern.
  7. Rechenschaftspflicht: Es sollten Mechanismen geschaffen werden, die die Verantwortlichkeit und Rechenschaftspflicht für KI-Systeme und deren Ergebnisse gewährleisten.

Nach der Verabschiedung dieser Richtlinien wird die EU-Kommission nun zu einem kurzfristigen Termin im Sommer 2019 eine Testphase beginnen. Ab sofort ist es für Unternehmen aller Branchen und Größen, öffentliche Einrichtungen, Verwaltungen und Organisationen möglich, der Europäischen KI-Allianz beizutreten Die Mitglieder der hochrangigen, von der EU beauftragten, Expertengruppe werden unterstützend tätig sein, die Leitlinien sowohl teilnehmenden Unternehmen als auch den relevanten Interessengruppen in den einzelnen Ländern vorzustellen und zu erläutern.

Ein wichtiges Ziel der EU-Kommission ist es, diesen Ansatz der KI-Ethik so schnell als möglich auf die internationale und globale Ebene zu bringen. Aus diesem Grund wird die Expertengruppe der EU die Zusammenarbeit mit Ländern wie Japan, Kanada oder Singapur verstärken und weiterhin eine aktive Rolle bei internationalen Diskussionen und Initiativen spielen. Parallel werden natürlich auch Unternehmen aus anderen Ländern und internationale Organisationen einbezogen.

Unternehmerische Risiken durch KI

Hintergrund der ethischen Regeln für KI im Compliancebereich der EU sind natürlich unternehmerische Risiken, welche sich durch den Einsatz und die Nutzung von KI im Unternehmen ergeben können. Nachfolgend einige grundlegende Risikofaktoren, die sich nicht nur durch die schon mögliche Nutzung von KI, sondern auch den zukünftigen Einsatz von immer mehr KI ergeben können:

Unterlegenheit des Menschen:
Ein mögliches Risiko, das gleichermaßen viele Menschen und Unternehmen fürchten, ist die Entwicklung einer „Superintelligenz“. Unter einer Superintelligenz versteht man eine Technologie, die sich selbst optimiert und dadurch vom Menschen unabhängig wird. Die Beziehung zwischen den Menschen und dieser superintelligenten Technik könnten problematisch werden – am Ende könnte der Mensch der Technik gar unterliegen. Eine vorsätzlich bösartige KI halten Forscher allerdings für nahezu ausgeschlossen. Ein tatsächliches Risiko sehen viele dagegen in einer künstlichen Intelligenz, die so kompetent ist, dass sich ihre Aktivitäten verselbstständigen – Aktivitäten, die dann für den Menschen schädlich werden könnten.

Abhängigkeit von der Technik:
Viele sehen die Risiken der KI nicht in einer generellen Unterlegenheit, sondern in einer wachsenden Abhängigkeit des Menschen von technologischen Systemen. In der medizinischen Versorgung etwa, wo der Einsatz von Pflegerobotern bereits getestet wird, macht sich der Mensch zunehmend zum überwachten Objekt technischer Systeme. Dabei laufe er Gefahr, ein Stück seiner Privatheit und Selbstbestimmung aufzugeben. Nicht nur für die Medizin werden diese Bedenken geäußert, sondern auch in Bezug auf KI-gestützte Anwendungen im Bank- und Versicherungswesen, bei der Videoüberwachung oder intelligente Algorithmen im Netz.

Datenschutz und Machtverteilung:
Intelligente Algorithmen können die wachsenden Datensätze immer effizienter verarbeiten. Vor allem für den Internethandel ist dies zunächst eine positive Nachricht. Doch die Weiterverarbeitung von Daten durch KI-Technologien wird für Verbraucher immer schwerer nachzuvollziehen und zu überwachen. Stattdessen haben Unternehmen und Experten mit dem entsprechenden technischen Know-how die alleinige Kontrolle.

Beeinflussung von Meinungsbildung:
Als weiteres Risiko könnten KI-Technologien öffentliche Meinungen auch gezielt lenken. Anlass für diese Bedenken bieten Technologien, die ihre Nutzer bis ins Detail kennen, oder der Einsatz von Social Bots, die die öffentliche Haltung beeinflussen. Bei wachsender Intelligenz dieser Techniken wird das Risiko einer Meinungsbeeinflussung immer höher. Dies wiederrum kann sich im Hinblick auf Rufschädigung oder Instrumentarien aus dem Bereich Marketing katastrophal auf ein Unternehmen auswirken, welches zum Beispiel von massiven „Fake-News“ angegriffen wird.

Arbeitsmarkt:
Die diskutierten Risiken von KI auf dem Arbeitsmarkt betreffen vor allem den Abbau von Arbeitsplätzen. Skeptiker befürchten, dass KI-Technik den Menschen zunehmend überflüssig machen könnte, ob nun durch den Putzroboter, den Pflegeroboter oder durch selbstnavigierende Transportsysteme. In der Medizinethik wird derzeit der Einsatz von Pflegerobotern kontrovers diskutiert. Die Befürchtung: Die Versorgung von pflegebedürftigen Menschen durch Roboter führt zu einer sozialen Kälte. Gleiches gilt für den Einsatz von KI gestützter Software, zum Beispiel im Bank-, Rechnungs- oder Versicherungswesen.

Diskriminierende Algorithmen:
Künstliche Technik liefert im Vergleich zum Menschen oft neutralere Ergebnisse – einer der vielen Vorteile künstlicher Intelligenz. Doch immer wieder zeigt KI-Technik auch Voreingenommenheit gegenüber Geschlecht oder Herkunft von Personen: Microsofts Chatbot Tay etwa imitierte innerhalb kürzester Zeit rassistische Sprache, Sicherheitstechnologien stufen „black neighbourhoods“ eher als Problembezirke ein und Werbeplattformen schalten bei männlichen Usern höher bezahlte Jobangebote. Das Problem ist schon länger bekannt und das British Standards Institute hat daher ethische Guidelines für Roboter herausgegeben. Doch lassen sich diese technisch nur schwer umsetzen – schließlich lernt die KI selbstständig aus ihrer Umwelt anhand von Lernprozessen, die von einzelnen Menschen nur begrenzt beeinflusst werden können.

Ausblick IT-Compliance Officer

Genau hier liegt eines der großen Hauptprobleme von und mit Künstlicher Intelligenz. Die Maschine lernt bereits heute in großen Teilen von und für sich selbst. Inwieweit der Mensch hier als Lehrer fungiert, ist bereits heute nicht mehr klar und eindeutig zu definieren.

All diese Risiken, die auf ein Unternehmen gleich welcher Größe und Branche zukommen werden, sind nicht nur eine Frage der Technik, der Hardware, der Software oder der Ethik. Gerade die Compliance im Unternehmen, die Umsetzung von Compliance-Regeln und die eventuelle Anpassung oder Aktualisierung des momentan verabschiedeten Compliance Management Systems (CMS) müssen auf der internen Agenda der Wichtigkeit für das Unternehmen auf höchster Priorität stehen.

Eine Herausforderung für jeden bereits tätigen oder zukünftigen Compliance Officer oder Chief Compliance Officer im Unternehmen und gleichermaßen die interne Beurteilung der Notwendigkeit, zum Beispiel durch die zusätzliche Position und Integration eines IT-Compliance Officers im Unternehmen, diesen Gefahren nachhaltig entgegenzutreten und sich vor diesen neuen Risiken zu schützen.

Epilog:

„Die größte Gefahr von künstlicher Intelligenz ist, dass die Menschen viel zu früh denken, dass sie KI verstanden haben.“
Eliezer Shlomo Yudkowsky (* 11. September 1979), amerikanischer Forscher und Autor. Er beschäftigt sich mit Entscheidungstheorie und den langfristigen sozialen und philosophischen Folgen der Entwicklung von Künstlicher Intelligenz.

Quellenangaben:

Ethikleitlinien für KI / Europäische Union, Brüssel / 2019
High-Level Expert Group on Artificial Intelligence / European Commission, Brüssel / 2019
Studie: Künstliche Intelligenz in Unternehmen / PWC PricewaterhouseCoopers GmbH / 2019
Alibaba: KI fügt für die Händler Produktinformationen ein / Onlinehändler-News / 2018
Künstliche Intelligenz: Anwendungen, Projekte, Trends / Industry of Things / 2018
Faszination KI: Was ist künstliche Intelligenz? / Digital Guide IONOS / 2018
Der Unterschied zwischen Künstlicher Intelligenz, Maschinelles Learning und Deep Learning / Coresystems / 2018

Compliance und Konzerne (Teil 2)


Prolog:

„Klaatu barada nikto!“

Deaktivierung des Roboters Gort, um die Zerstörung des Planeten Erde zu verhindern (Filmzitat aus: „Der Tag, an dem die Erde stillstand“ / USA 1951).

Künstliche Intelligenz (KI) im Konzern

In welchem Ausmaß sich künstliche Intelligenz schon heute in Konzernen auswirkt, hat das Digital Transformation Institute von Capgemini, ein Beratungs- und IT-Dienstleister und die größte Unternehmensberatung europäischen Ursprungs, im Jahr 2017 untersucht. Dazu wurden weltweit Führungskräfte aus fast 1.000 Unternehmen mit einem Umsatz von mehr als 500 Millionen Dollar befragt.

In der Studie gaben 83 Prozent der Befragten an, künstliche Intelligenz (KI) habe bzw. wird neue Aufgaben im Unternehmen schaffen und den täglichen Arbeitsfluss in der näheren Zukunft grundlegend beeinflussen.

Einhergehend mit der Thematik KI wird sich dies daher auch deutlich auf den Bereich Compliance im Konzern und Unternehmen in den nächsten Jahren auswirken. Doch, was ist künstliche Intelligenz eigentlich?

Künstliche Intelligenz – Geschichte

Künstliche Intelligenz ist keine neue Erscheinung oder Entwicklung. Der Computerwissenschaftler John McCarthy prägte erstmalig im Jahr 1956 den Begriff ‘künstliche Intelligenz’ auf einer Konferenz an der Dartmouth Universität.

Aufmerksam geworden, gab die Regierung der USA John McCarthy und seinem Kollegen Marvin Minsky die finanziellen Mittel zur Entwicklung von KI, um ihre Position im Kalten Krieg mit Russland zu stärken. Der Ansatz war, die künstliche Intelligenz zu nutzen, um die Muster der russischen Sprache zu verstehen, in der Hoffnung, es würde sie befähigen, russische Unterlagen in großem Umfang schneller und effizienter zu übersetzen. Der große Erfolg in Verbindung zur Nutzung der KI blieb, gerade auch wegen damals fehlender Technologie, aber aus.

In den 70er Jahren war der Forschungsdrang im Bereich der KI fast zum Erliegen gekommen. Die finanziellen Mittel der Regierung für KI wurden drastisch gekürzt, als nicht genug Fortschritte sichtbar wurden. Der Forschungsdrang stoppte quasi, bis IBM sein, sehr medienwirksames, Projekt Deep Blue vorstellte. Der IBM Supercomputer Deep Blue schlug im Jahr 1997 den Schachweltmeister Garry Kasparov. Eine Sensation für diese Zeit, dass eine Maschine in der Lage war, einen Menschen zu schlagen. Für Deep Blue war dies kein Problem. Deep Blue war in der Lage, bis zu 200 Millionen potenzielle Positionen in einer Sekunde zu analysieren und den Schachweltmeister so vom Brett zu fegen.

Künstliche Intelligenz – Definition

Die Definition von Künstlicher Intelligenz beruht auf der Vorstellung, dass menschliche Intelligenz die Summe aus verschiedenen Berechnungen ist. Der denkende Mensch wird schon seit der Aufklärung als Maschine betrachtet. Künstliche Intelligenz selbst wird auf unterschiedliche Weise erzeugt.

Erkennung von Mustern: KI-Systeme erkennen Muster und können entsprechende Handlungen ausführen.
Zugriff auf große Wissensdatenbank: Manche KI-Systeme werden mit sehr viel Wissen gespeist. Aus diesem Datenschatz schöpft das System, wenn es Lösungen oder Antworten sucht.
Vorhersage von Mustern: Durch die Berechnung von Wahrscheinlichkeiten können bestimmte KI-Systeme auf mögliche Muster in der Zukunft reagieren.

Insgesamt beruht Künstliche Intelligenz heute auf der Verarbeitung von sehr großen Datenmengen, der sogenannten Big Data. Die modernste Ausprägung von künstlicher Intelligenz nutzt künstliche neuronale Netzwerke und entwickelt selbstlernende Systeme in Form von Machine Learning.

Blick in die Glaskugel – Compliance Management in der Zukunft

Betrachtet man die Ergebnisse einer Studie, in der Konzerne sich über die Zukunft des Compliance im Unternehmen äußern, so fällt sofort auf, dass künstliche Intelligenz (KI) zusammen mit der Investition in Prozesse der Automatisierung sehr häufig genannt wird. Nicht nur der Einstieg in Industrie 4.0 sondern bereits die, zwar noch vorsichtige, Perspektive in das Zeitalter von Industrie 5.0, in der die KI immer mehr und deutlich dominieren wird, ist bereits jetzt ein Diskussionsthema.

Ob künstliche Intelligenz sich in Konzernen und Unternehmen maßgeblich durchsetzen wird ist nicht die Frage, einzig wann es so weit ist, bleibt zu beobachten!

Eines der grundlegenden Ergebnisse in dieser Studie war, das momentan 60% der befragten Unternehmen den Schwerpunkt auf „Comply“ (gesetzliche und regulatorische Anforderungen beachten und erfüllen) fokussieren und nur 20% der Unternehmen momentan ihre Hauptausrichtung auf den Bereich „Integrate“ (regulatorische und gesetzkonforme Anforderungen in die täglichen Aufbau- und Ablauforganisation durch konsequente Umsetzung des „Three-Lines-of-Defense-Modells im Unternehmen) legen.

Drei Verteidigungslinien im Compliance


Grafik: WIRTSCHAFTScampus

Nur 20% der Unternehmen konzentrieren sich momentan bei der Umsetzung ihres Compliance Managements auf das Segment „Automate“, also die Automatisierung und Digitalisierung bestehender und zukünftiger Complianceprozesse.

Genau hier wird ein massives und signifikantes Umdenken im Bereich Compliance und der praxisbezogenen Umsetzung des Compliance Management in der nächsten Zeit stattfinden! Auf die Frage der künftigen Praxis im Unternehmen und der Strukturierung und Umsetzung des internen Compliance Management Systems gaben 50% der befragten Verantwortlichen für den Bereich Compliance an, dass der zukünftige Schwerpunkt in der Automatisierung der Compliancestruktur unter Einbeziehung einer KI bzw. der damit einhergehenden Compliance Software besteht.

Aber wie definiert sich nun der (neue) Bereich der Automatisierung unter Einbeziehung von Software und KI? Als Beispiel hierfür soll dies nachfolgend am Segment „Berichterstattung“ im Unternehmen in Hinblick auf mögliche Compliancevorfälle kurz dargestellt werden. Über 45% der Chief Compliance Officers wünschen sich im Unternehmen eine Plattform (Dashboard) zur Anzeige von Vorfällen oder zur internen Berichterstattung. Somit wäre in Echtzeit immer und flexibel die aktuelle Compliancesituation, sowohl mobil als auch stationär, abrufbar.

Digitalisierung und Compliance: 3 Schritte zum Weg in die Zukunft

Voraussetzung ist die konsequente Umsetzung der Digitalisierung im Bereich Compliance, die in der unternehmerischen Praxis in drei Schritten durchzuführen ist. Der erste Schritt beinhaltet, dass alle compliancerelevanten Daten in digitaler Form zur Verfügung gestellt werden.

Ausdrücklich müssen den verantwortlichen Mitarbeitern aus dem Bereich Compliance Zugänge zu allen wichtigen Systemen, wie der Kundenbestandsdatenbank, ermöglicht werden, damit diese an das, in einem Konzern bestehende, System der Compliance-IT angebunden werden können. Somit ergibt sich eine Koppelung zu bereits vorhandenen Kontrollmechanismen zum Beispiel aus dem Umfeld Kartellrecht oder dem bereits bestehenden Monitoringsystem zur Prävention von Geldwäsche.

Das Compliance-IT-Zielbild


Grafik: WIRTSCHAFTScampus

Im zweiten Schritt müssen innerhalb des Konzerns aufeinander abgestimmt IT-gestützte Tools und intern genutzte Programme zur Darstellung aller Prozesse im Bereich Compliance realisiert werden. Hierzu ist die Definition eines Compliance-IT-Zielbilds zwingend erforderlich und sollte in jedem Fall die nachfolgenden Teilbereiche beinhalten, welche mit Hilfe eines internen Frage- und Bestandsbogens gemeinsam mit den Mitarbeitern in den jeweiligen Abteilungen erfasst und erarbeitet werden müssen.

  1. Sicherheitsmanagement
  2. Allgemeine Sicherheitsaspekte und Verhalten in Notfällen
  3. Sicherheitsbewusstsein
  4. Zugriffsschutz: Benutzernamen, Kennwörter und Verschlüsselung
  5. Internet und E-Mail
  6. Datensicherung
  7. Drahtlose Netzwerkverbindungen (WLAN) und Hotspots im Konzern
  8. Software-Nutzung und Software-Updates
  9. Schutzvorkehrungen und Schutzeinrichtungen

Nur so können kostenaufwendige Medienbrüche (zum Beispiel wird ein ausgedrucktes Textdokument oder ein empfangenes Fax als Textdatei in einen Computer eingegeben) und manuelle Prozesse reduziert werden. Wenn diese beiden Schritte durchgeführt wurden, ist die Grundlage für den Einsatz neuer digitaler Technologien, wie beispielsweise

  • Blockchain (Liste von Datensätzen, welche durch kryptographische Verfahren miteinander verkettet sind)
  • Data & Analytics (automatisierte Analyse von großen Datenmengen)
  • Predictive-Data-Analysen (Vorhersage von zukünftigen Trends)
  • Robotertechnik

im Konzern vorhanden und der dritte, finale, Schritt in ein digitales Compliance-Zeitalter kann umgesetzt werden.

Die Zukunft: Künstliche Intelligenz (KI)

Mit diesen, in den beiden ersten Schritten neu geschaffenen, Instrumentarien, können dann im dritten und finalen Schritt künftig eine intelligente Datenextraktion mit einer ständig einhergehenden Analyse der auflaufenden Daten oder eine fortlaufende Kunden-Due-Diligence durchgesetzt werden. Genau hier öffnet sich dann das Tor zu einer neuen, digitalisierten Welt im Unternehmen. Entscheidungen, die aktuell noch durch Menschen getroffen werden, können in dieser Ausbaustufe der Digitalisierung dann von den technischen Systemen unter Einbeziehung der (geschaffenen) KI getroffen werden.

KI im Privaten

88% der Deutschen meinen, dass KI zukünftig helfen wird, private Herausforderungen zu meistern! War es noch vor Jahren für den Großteil der Bevölkerung in Deutschland ein Märchen aus fernen Welten und Galaxien, so entwickelt sich die Akzeptanz und der selbstverständliche Umgang mit künstlicher Intelligenz in einer rasenden Geschwindigkeit. Laut einer in 2017 durchgeführten Studie mit über 1.000 Befragten in ganz Deutschland steigen die Erwartungen an die KI im täglichen Umfeld rasant an.

Künstliche Intelligenz im Alltag

In welchen Bereichen wäre der Einsatz von künstlicher Intelligenz geeignet, um dabei zu helfen, zukünftige Herausforderungen zu meistern?

Basis: n= 1.017 / Mehrfachnennungen möglich
Quelle: PWC 2017 / „Bevölkerungsbefragung 2017“, Grafik: WIRTSCHAFTScampus

Doch auch die praktische Anwendung im täglichen Leben unter der (ständigen) Nutzung von KI ist in Deutschland bereits angekommen. 85% der Befragten können sich vorstellen, eine KI im persönlichen Umfeld ständig zu nutzen. Einsatzgebiete hierfür sind für die Befragten die Nutzung von Putzrobotern (58%), ein Hilfsroboter für schwere Arbeiten im Haushalt (51%), ein Sprachroboter wie Alexa von Amazon oder Siri von Apple für tägliche Aufgaben wie Einkaufen oder zur Kommunikation und selbst das digitale Auto, das selbstständig fährt ist bereits heute für 31% der Befragten eine zukünftige Selbstverständlichkeit.

Es gilt als sicher, dass die Akzeptanz und die Normalität der KI im täglichen Umfeld in den nächsten Jahren innerhalb der Bevölkerung deutlich ansteigen werden.

KI im Konzern

Werden Systeme mit Künstlicher Intelligenz die Menschen bei Finanzunternehmen ersetzen, weil sie effektiver und schneller sind, nicht krank werden und an keine Arbeitszeiten gebunden sind? Ja! Hier hat die Zukunft bereits begonnen.

Die japanische Versicherung Fukoku Mutual Life Insurance investiert genau in diese Richtung. Sie führt eine Künstliche Intelligenz (IBM Watson, eine Plattform für KI) ein, um fast 30 Prozent der Mitarbeiter für Schadensbemessung zu ersetzen. Das Unternehmen geht davon aus, dass die Einrichtung der künstlichen Intelligenz rund 1,6 Millionen Euro und der Betrieb danach jährlich rund 120.000 Euro kosten werden. Dem stünden Einsparungen bei den Personalkosten in Höhe von jährlich rund 1,1 Millionen Euro gegenüber. Drei weitere Unternehmen in Japan folgen bereits und auch in den USA findet diese Innovation sehr große Aufmerksamkeit.

Tatsächlich eröffnet der technische Fortschritt auch im Finanzsektor immer neue Anwendungsmöglichkeiten; sowohl bei der Robotik im Sinne von unterstützenden Anwendungen als auch bei der KI, die eigenständig hochkomplexe Aufgabenstellungen in Sekundenschnelle bearbeitet.

RPA: Robotic Process Automation

Aktuell ist der größte Einsatzbereich bei Versicherungen die Automatisierung von einfachen, heute noch manuellen und weitestgehend standardisierten Tätigkeiten durch Robotic Process Automation (RPA).

Bereits jetzt optimieren Versicherungen und andere Unternehmen ihre täglichen Arbeitsprozesse indem sie ihren Mitarbeitern in Einzelbereichen Roboter zur Seite stellen. Über eine zentrale, durchgängige Plattform kann die RPA-Technologie im nächsten Schritt innerhalb des gesamten Unternehmens implementiert werden. So lassen sich Aufgaben effizienter automatisieren, Prozesse straffen und die Mitarbeiterproduktivität kann erhöht werden. Vorliegende Studien und Prognosen sehen hier Kosteneinsparungspotenziale von etwa 30 bis zu 75 Prozent im bestehenden Wertschöpfungsmodell.

Bei Banken und anderen Finanzdienstleistern erhält das Instrument RPA ebenfalls sehr schnellen und zukunftsweisenden Einzug, beispielsweise im Rahmen der Vergabe von Krediten und dahinterliegenden Verarbeitungsprozessen oder im Handel mit Wertpapieren. Nachfolgend als Beispiel drei Anwendungsbereiche bzw. Szenarien, die unproblematisch auf (fast) alle Branchen und Unternehmen transformiert werden können.

1. Chatbots

Wofür braucht man einen Menschen, wenn der Roboter es doch auch, und zwar 24 Stunden an sieben Tagen in der Woche, kann? Mit Chatbots können Kunden über Textnachrichten oder Sprache kommunizieren, um sich von ihnen beraten zu lassen. Das geht zum Beispiel auch über Facebook und WhatsApp oder am Telefon.

Das Besondere an den Robotern und den genutzten Programmen ist, dass sie unter Einbeziehung und der Nutzung von künstlicher Intelligenz aus den Interaktionen mit den Nutzern lernen und sich deren Bedürfnissen und Vorlieben immer besser anpassen.

2. Compliance

In Verbindung mit Software, die Sprache verarbeiten kann, ist die künstliche Intelligenz bereits jetzt zu einem Compliance-Thema geworden. Dieser Punkt der Compliance wird zukünftig deutlich an Wertigkeit zunehmen! Dort hat sich der Aufwand bei der Bewertung von Texten und Informationen durch die vielen Regulierungen sehr stark erhöht. Mit künstlicher Intelligenz ist es bereits jetzt möglich, eine große Menge an Texten vollkommen automatisiert und ohne Menschen auszuwerten und sie mit den internen Richtlinien abzugleichen.

Alleine die Geschwindigkeit betreffend ist die Maschine bereits jetzt deutlich schneller als der Mensch und die genutzten Programme lernen, immer genauere Analysen durchzuführen und es wird einfacher feststellbar, welche Anforderungen und Verpflichtungen in der Bank oder in anderen Unternehmen sich auf welche spezifischen Mitarbeiter, Leistungen oder Produkte beziehen.

3. Personalisiertes Marketing

In diesem speziellen Bereich des Marketings geht es darum, aufgrund von Kundenverhalten abzuleiten, für welche Produkte oder Leistungen sich ein spezifischer Kunde interessieren könnte. Es werden aggregierte Metadaten gebildet über bestimmte Kundeneigenschaften, wie Alter, Familienstand, Bildungsgrad oder beruflicher Status, und diese werden in Verbindung gebracht mit Interessen, Kaufentscheidungen oder der Interaktion mit Online-Angeboten wie personalisierten E-Mails oder Newslettern.

Daraus kann schließlich abgeleitet werden, welche Eigenschaften ein typischer Kunde hat, der gerne einen Bausparvertrag abschließen möchte. Aufgrund dessen können diesem zum Beispiel in seinem Newsletter automatisch die richtigen Produkte gezeigt werden, oder die Informationen fließen in die Vorbereitung der Berater auf ein Gespräch mit ein. Gerade da Banken so viele Kundendaten haben, könnten für ein personalisiertes Marketing wertvolle Informationen gewonnen werden.

Roboter werden Menschen überlegen sein

Auf der Zeitgeist-2015-Konferenz in London erklärte dies Stephen Hawking, der theoretische Physiker und Astrophysiker aus England: „Computer werden Menschen innerhalb der nächsten hundert Jahre mit künstlicher Intelligenz überholen. Wenn das passiert müssen wir sicher gehen, dass die Ziele der Computer mit unseren übereinstimmen“.

Die Zukunft wird nicht digital – sie ist es bereits, da sie in der Vergangenheit begonnen hat. Ein Schritt zurück oder gar eine Ablehnung oder die Verweigerung neuer Instrumentarien wie künstliche Intelligenz ist, ob nun unternehmerisch oder privat, nicht mehr möglich. Somit fordert dies im unternehmerischen Bereich zwingend die Weiterbildung und Aktualisierung aller Compliance – Instrumentarien für bestehende und zukünftige Anforderungen und der Umsetzung der Compliance in allen internen und externen Tätigkeiten des Unternehmens.

Epilog:

„Wir scannen nicht all jene Bücher, damit sie von Menschen gelesen werden, wir scannen sie, damit sie von einer Künstlichen Intelligenz gelesen werden können.“ (Zitat aus 2005 von einem Google – Ingenieur)

Weiterbildung Compliance

Starten Sie jetzt mit der Ausbildung zum Chief Compliance Officer oder Tax Compliance Officer!

Nutzen Sie mit dem WIRTSCHAFTScampus die Möglichkeit zur zertifizierten Ausbildung im Bereich Compliance Management und schützen Sie sich selbst oder ihr Unternehmen mit der persönlichen Teilnahme oder der Anmeldung eines ihrer Mitarbeiter bei unserer Compliance-Weiterbildung. Der WIRTSCHAFTScampus bietet die beiden aufeinander aufbauenden Fernlehrgänge im Bereich Compliance Management an:

Certified Compliance Officer: Die Inhalte des Fernlehrgangs Certified Compliance Officer beinhalten u.a. Innerbetriebliches Kontrollsystem (IKS), Risikomanagementsystem (RMS), Ethik-Kodex, Grundsätze ordnungsgemäßer Prüfung von Compliance-Management-Systemen IDW PS 980, ISO 19600 – Richtlinien für ein Compliance Management System, ISO 37001 – Standard zur Antikorruption.

Certified Chief Compliance Officer: Die Inhalte des Fernlehrgangs Certified Chief Compliance Officer beinhalten u.a. Compliance von Lieferanten und Kunden, Compliance und M&A, Compliance und IT, Compliance auf Führungsebene, Haftung der Geschäftsführung, Arbeitsrecht und Compliance, Kartell- und Wettbewerbsrecht, Geldwäsche, ISO 19600.

Weiterhin ist die Ausbildung zum Certified Tax Compliance Officer jederzeit möglich.

Eine ausführliche Darstellung der Inhalte unserer Fernlehrgänge im Bereich Compliance finden Sie hier:
Fernstudium Compliance Officer
Fernstudium Tax Compliance Officer
oder in unserer Weiterbildungsbroschüre 2018, die wir Ihnen selbstverständlich gern unverbindlich zusenden.

Quellenangaben:

Veröffentlichung: „Mit Daten Werte schaffen“, KPMG, 2017

Veröffentlichung: „Bevölkerungsbefragung Künstliche Intelligent“, PwC, 2017

Veröffentlichung: „Compliance – die neue Dimension“, Compliance Business, 2017

Veröffentlichung: „Rechtsgrundlage und Reichweite der Compliance in Aktiengesellschaft und Konzern“, Institute for Law and Finance, Goethe-Universität Frankfurt/Main, 2012