Grundlagen News

iStock.com/akinbostanci

Finanzunternehmen und Künstliche Intelligenz: BaFin veröffentlicht Prinzipienpapier

Die Unternehmen sähen in Technologien wie BDAI zum Beispiel die Chance, Risiken besser einzuschätzen und Kosten zu senken, hieß es in dem Papier der BaFin. Die Prinzipien stellen den Angaben zufolge vorläufige Überlegungen zu aufsichtlichen Mindestanforderungen für den Einsatz von Künstlicher Intelligenz (KI) dar. Sie seien damit eine Diskussionsgrundlage für den Austausch mit diversen Stakeholdern. Zugleich sollten sie aber bereits jetzt den von der BaFin beaufsichtigen Unternehmen als Orientierungshilfe dienen. Die Prinzipien würden für solche Algorithmen und algorithmischen Entscheidungsprozesse gelten, die sich durch hohe Komplexität, kurze Rekalibrierungszyklen und einen hohen Automatisierungsgrad auszeichneten. Viele dieser Prinzipien seien hierbei nicht gänzlich neu, sondern entwickelten punktuell die prinzipienorientierte und technologieneutrale Regulierung weiter.

Von zentraler Bedeutung sei eine klare Verantwortung der Geschäftsleitung. Die Geschäftsleitung sei verantwortlich für die unternehmensweiten Strategien und Leitlinien bzw. Richtlinien zum Einsatz von algorithmenbasierten Entscheidungsprozessen. Darin sollten sowohl die Potenziale solcher Prozesse als auch deren Grenzen und Risiken berücksichtigt und klar benannt werden. „Für materielle unternehmerische Entscheidungen ist der Vorstand stets selbst verantwortlich, auch dann, wenn sie auf Algorithmen fußen. Dies setzt zum einen ein adäquates technisches Verständnis bei der Geschäftsleitung voraus. Zum anderen müssen die Berichtslinien und Berichtsformate so gestaltet sein, dass eine risikoadäquate und adressatengerechte Kommunikation gesichert ist – und zwar von der Ebene des Modellierens bis hin zur Geschäftsleitung.“


Etablierung eines adäquaten Risikomanagements
Darüber hinaus sei es auch Aufgabe der Geschäftsleitung, ein an den Einsatz von algorithmenbasierten Entscheidungsprozessen adaptiertes Risikomanagement zu etablieren, hieß es weiter. „Werden Anwendungen von einem Dienstleister bezogen, muss die Geschäftsleitung zudem ein effektives Auslagerungs- bzw. Ausgliederungsmanagement einrichten. Hierbei sind Verantwortungs-, Berichts- und Kontrollstrukturen klar festzulegen“, so die BaFin. Bei der Etablierung eines adäquaten Risikomanagements sei es sinnvoll, die Risiken eines algorithmischen Entscheidungsprozesses zu berücksichtigen: „Risikomitigierende Maßnahmen und Prozesse sollten nach dem Verursacherprinzip genau da ansetzen, wo ein Risiko seinen Ursprung hat. Ferner sollten Wahrscheinlichkeit und potenzielles Ausmaß von Schäden durch fehlerhafte algorithmenbasierte Entscheidungen klar analysiert und die Ergebnisse dieser Analyse dokumentiert werden.“  

Abhängig vom Anwendungsbereich und von den Merkmalen des Algorithmus müssten zudem Daten in ausreichender Qualität und Quantität verwendet werden. „Die Unternehmen müssen über ein überprüfbares Verfahren (Datenstrategie) verfügen, das die fortwährende Datenbereitstellung gewährleistet und definiert, welche Ansprüche jeweils an Qualität und Quantität der Daten erfüllt sein müssen.“ Die Datenstrategie müsse in einer Datengovernance umgesetzt und Zuständigkeiten seien klar zu umreißen. Jede Verwendung von Daten in algorithmenbasierten Entscheidungsprozessen müsse auch konform sein mit den geltenden Datenschutzbestimmungen, so die Aufsicht in dem Papier. Datenschutzrechtliche Vorgaben für die Nutzung von Daten sollten bereits bei der Planung algorithmischer Entscheidungsprozesse berücksichtigt werden. So seien vor allem die Offenlegungspflichten gegenüber betroffenen Personen zu beachten. 

Das übergeordnete Ziel bestehe darin, korrekte und robuste Ergebnisse sicherzustellen: „Die Ergebnisse eines Algorithmus sollten zudem reproduzierbar sein. Der Anwender sollte also zum Beispiel bei einer späteren Überprüfung durch einen unabhängigen Dritten in der Lage sein, die Ergebnisse zu reproduzieren.“ Diese Reproduzierbarkeit gewährleiste zum einen ein Mindestmaß an unternehmensinterner, aber auch externer Nachvollziehbarkeit und Überprüfbarkeit der Ergebnisse. Zum anderen setze sie Sorgfalt und Genauigkeit bei der Auswahl des Algorithmus, bei der Kalibrierung und der Dokumentation voraus. (ud)


Lesen Sie hier das vollständige Papier der BaFin „Big Data und künstliche Intelligenz: Prinzipien für den Einsatz von Algorithmen in Entscheidungsprozessen“.
 

Stichworte

Verwandte Artikel

Anzeige

Lexikoneinträge