Gestern gab es große Aufregung in meiner Social-Media-Bubble, denn die BaFin hat eine Orientierungshilfe zu IKT-Risiken beim Einsatz von KI in Finanzunternehmen veröffentlicht
Gestern gab es große Aufregung in meiner Social-Media-Bubble, denn die BaFin hat eine Orientierungshilfe zu IKT-Risiken beim Einsatz von KI in Finanzunternehmen veröffentlicht. Dazu möchte ich ein paar erste Gedanken mit euch teilen: Die Orientierungshilfe ist erstaunlich praxisnah und liest sich fast wie ein How-to.
Gestern gab es große Aufregung in meiner Social-Media-Bubble, denn die BaFin hat eine Orientierungshilfe zu IKT-Risiken beim Einsatz von KI in Finanzunternehmen veröffentlicht. Dazu möchte ich ein paar erste Gedanken mit euch teilen:
- Die Orientierungshilfe ist erstaunlich praxisnah und liest sich fast wie ein How-to. Man könnte sie als Blaupause für eine KI-Richtlinie nutzen und daraus einen Soll-Maßnahmenkatalog für KI-Systeme ableiten!
- KI-Systeme und KI-Modelle sind IKT-Assets im Sinne von DORA und müssen gemäß der Vorgaben gehandhabt werden.
- Trainingsdaten werden explizit als Information Assets eingeordnet. Das bedeutet: Identifikation im IKT-Assetmanagement, Bewertung der Kritikalität sowie klare Zuständigkeiten und Verantwortlichkeiten.
- Spezifische KI-Risiken sind keine neuen Risikokategorien, sondern als IKT-Risiken nach DORA zu bewerten.
- KI-Systeme, die kritische oder wichtige Funktionen unterstützen, sind besonders schützenswert. Hier greift der volle DORA-Werkzeugkasten – ohne „Welpenschutz für innovative Technologie“.
- Das Dokument ist anspruchsvoll, weil es sehr unterschiedliche Ebenen adressiert: High-Level-Governance (z.B. Verantwortlichkeiten, Leitungsorgan und Schulungen) und sehr konkrete technische Maßnahmen (z.B. API-Sicherheit, Web-Application-Firewalls und Rate-Limiting zur Abwehr von DoS-Angriffen)
- Ein Satz aus der Orientierungshilfe bleibt besonders hängen: „Eine Herausforderung bei den Tests ist es, zu identifizieren, ob Anwendungen externe KI-Modelle etwa über APIs einbinden. Dadurch kann eine ursprünglich als Nicht-KI-Anwendung geplante Software zu einem KI-System werden.“
Das beschreibt eine Entwicklung, die viele von uns schon länger beobachten: Bestandsanwendungen werden schleichend zu KI-Anwendungen – mit der Folge, dass zusätzlich zu DORA auch die Anforderungen der KI-Verordnung greifen.
- Besonders relevant sind auch die Ausführungen zu den verschiedenen Cloud-Varianten der KI-Anwendungen. In der Praxis dürfte vor allem Variante 3 – KI außerhalb des eigenen Tenants – verbreitet sein. Dabei liegt die KI-Anwendung außerhalb des logisch abgegrenzten und kontrollierten Mandantenbereichs des Instituts und wird über APIs externer Anbieter genutzt. In dieser Konstellation verlassen Daten den kontrollierbaren Raum des Instituts und werden an den Modellanbieter übermittelt. Daraus ergeben sich zentrale Risiken insbesondere für Datenhoheit und Vertraulichkeit, die nur durch zusätzliche technische und vertragliche Maßnahmen adressiert werden können.
Mein Fazit: Die Orientierungshilfe ist fachlich aufschlussreich und sie macht deutlich: KI unter DORA ist kein Randthema, sondern eine Querschnittsaufgabe zwischen Governance, Informationssicherheit, IKT-Betrieb und unseren IKT-Dienstleistern.