In unserem letzten Artikel haben wir einen Überblick über die Entwicklungen im Finanzbereich und insbesondere im Bereich FinTech gegeben. Nachdem wir festgestellt haben, dass das größte Segment des globalen FinTech-Marktes der digitale Zahlungsverkehr (U$6,752,388 Mio.) war, gefolgt von Neobanking (‘Internet Only’) und Alternativer Finanzierung, argumentiert dieser Artikel, dass politische Rahmenbedingungen, Gesetze und Richtlinien mit Innovationen in der Finanzindustrie und darüber hinaus in Einklang gebracht werden müssen, um effektiv neue Produkte und Dienstleistungen zu fördern. KI-Tools sind unabdingbar um FinTech-Anwendungen zu optimieren und sicherer zu machen (z. B. durch die Verhinderung von Korruption und Diebstahl), beinhalten aber – wie im letzten Artikel erwähnt, auch Risiken im Zusammenhang mit sich verankernden Bias (z. B. “automatisierter Rassismus” etc.), neuen Formen von Cyber-Angriffen und der Ansammlung von sensiblen Daten durch private Akteure.
Daher stehen politische Richtlinien, die unweigerlich zur Förderung einer Kunden- und Rechte-orientierten FinTech-Dienstleistungsbranche beitragen, mit verschiedenen Bereichen in Verbindung, wie z. B. Finanzen, Kryptowährungen, Cybersicherheit, Datenschutz usw. In diesem Artikel werden zunächst die Anmerkungen der OECD zu einem sicheren Einsatz von KI diskutiert. Des Weiteren gibt dieser Artikel einen Überblick über die KI-Prinzipien der OECD, wobei im Allgemeinen argumentiert wird, dass politische Rahmenbedingungen, die die FinTech-Branche regulieren, insbesondere sicherstellen sollten, dass sie einen sicheren und dennoch explorativen Einsatz von KI-Technologien ermöglichen.
Der Vertrauenswürdige Einsatz von KI in der Finanzbranche
Zurück Zum OECD Business Outlook 2021
Der OECD Business Outlook 2021 bietet unter anderem einen Überblick über: 1) die KI-Prinzipien der OECD, 2) ihre Empfehlungen zum Schutz der Finanzkunden und 3) politische Empfehlungen, die auf die Schnittstelle zwischen KI und der Finanzwelt abzielen. Letztere adressieren gezielt weitere Risiken des Einsatzes von KI im Finanzbereich. Darunter sind…
„…Datenmanagement, Datenschutz/Vertraulichkeit und Konzentrationsrisiken; [Risiken im Zusammenhang mit] algorithmischer Voreingenommenheit und Diskriminierung durch KI; [Risiken im Zusammenhang mit] dem Erklärbarkeitsproblem [, d. h. dem Fehlen von] „‚explizitem deklarativem Wissen’”, das geeignet ist, die zugrunde liegende mathematische Funktionsweise von Modellen des maschinellen Lernens (ML) zu erklären]; [damit verbundene Risiken in Bezug auf] die Überprüfbarkeit und Offenlegung von [der Funktionalität von] KI-Techniken, die von Finanzdienstleistern verwendet werden; [Risiken im Zusammenhang mit] mangelnder Ausbildung, Validierung und der Erprobung von KI-Modellen zur Förderung ihrer Robustheit und Belastbarkeit; [Risiken in Bezug auf die] Governance von KI-Systemen und die Rechenschaftspflicht; andere Risikoquellen in KI-Anwendungsfällen im Finanzwesen [z. B. in Bezug auf] aufsichtsrechtliche Erwägungen, die Beschäftigung und Qualifikationen”.
(OECD Business Outlook 2021)
Insbesondere zeigen viele der oben genannten Risiken die Notwendigkeit, algorithmische und ML-Modelle, sowie KI-Technologien und deren Anwendung, weiterzuentwickeln und gleichzeitig die Transparenz der eingesetzten Methoden zu gewährleisten, um Verbraucher und andere Parteien auf verständliche und erklärbare Weise zu informieren. Obwohl diese Notwendigkeit zu Recht die Unabdingbarkeit dessen betont, den Bereich der KI und seine Teilbereiche (d. h. FinTech, InsurTech) zu ‘demokratisieren’ – was bedeutet, dass Verbraucher angemessen über ihre zugrunde liegenden Entscheidungen in Bezug auf eine bestimmte Dienstleistung oder ein bestimmtes Produkt informiert werden müssen, betont der OECD Business Outlook 2021 indirekt auch, dass dies auf Kosten der technologischen Innovation gehen könnte. Mit anderen Worten, während „die fehlende Erklärbarkeit nicht mit politischen Regeln und Bestimmungen vereinbar ist, die Bürgern ein ‘Recht auf Erklärung’ für Entscheidungen sichern wollen, die von Algorithmen getroffen werden,…wie etwa die Datenschutz-Grundverordnung (DSGVO) der EU“, ist deklaratives Wissen (d. h. „Sachdaten,…Erfahrungswerte – und…Ziel unabhängige [Daten]“) nicht unbedingt zentral in der KI-Bereitstellung und ML.
Wie auf Datanami erklärt, gedeihen KI und ML, durch den Datenkonsum und die Interpretation von Daten. Auch wenn Letztere ‘deklarativ’ sein können, „nutzen KI-Anwendungen [im Wesentlichen] prozedurales Wissen”. Insbesondere wenn FinTech- und KI-basierte Anwendungen dazu dienen, gefährdete Gemeinschaften in Krisen zu unterstützen, können Verbraucher schon mal vor eine risikoreiche Wahl gestellt werden. Sollen sie einer Anwendung vertrauen, deren Funktionsweise nicht komplett erklärbar und nachvollziehbar ist, oder den fehlenden Zugang zu Finanzmitteln, Krediten und Darlehen hinnehmen? Aktuell scheint es so, als ob sich Verbraucher eher dazu tendieren sich für FinTech-Lösungen zu entscheiden. Obwohl FinTech in Subsahara-Afrika bereits vor der COVID-19-Pandemie an Popularität gewonnen hatte, hat letztere den Bedarf an diesem aufstrebenden Sektor, seinen Produkten und seinen Dienstleistungen erhöht – nicht immer, aber in hohem Maße unter dem Banner der finanziellen Inklusion. Während es keine konkreten Schätzungen gibt, die zeigen, wie viele afrikanische FinTech-Unternehmen bereits auf KI-Technologien setzen, hat eine Studie des Cambridge Centre for Alternative Finance (CCAF) aus dem Jahr 2020 ergeben, dass 90 % der befragten FinTech-Unternehmen in 33 OECD-Ländern im Jahr 2020 KI-Technologien einsetzten. Nachdem Interpol im Oktober 2021 Online-Betrug und Botnets als zwei der fünf häufigsten Cyberbedrohungen in Afrika aufzählte, müssen FinTech-Unternehmen ohne Zweifel darauf hinarbeiten sicherzustellen, dass ihre Dienste zukünftig sicher bleiben.
Die KI-Prinzipien der OECD: Eine Neuinterpretation Dessen, Was ‘Wertorientiert’ Impliziert
Auch wenn KI-Prinzipien für Subsahara-Afrika möglicherweise die Besonderheiten dieser Region berücksichtigen müssen, können die KI-Prinzipien der OECD durchaus dafür verwendet werden, um zu diskutieren, wann der Einsatz von KI praktikabel ist. Im Wesentlichen betont die OECD, dass die letztgenannten Prinzipien wertebasiert sind:
Dieses Prinzip betont, dass der Einsatz von KI mit der Förderung nachhaltiger Entwicklung, integrativem Wachstum und Wohlergehen zusammenfallen muss – was soviel bedeutet, dass die Ungleichheit (auch in Bezug auf den Zugang zu KI-Technologien) bekämpft und die Voreingenommenheit (d. h. der oben erwähnte sich verankernde Bias) verhindert werden muss – und zwar von KI-Dienstleistern und anderen Akteuren (z. B. Regierungen und politische Entscheidungsträger etc.).
Neben der Förderung einer nachhaltigen und integrativen Entwicklung sollten KI-Technologien auch „ die Rechtsstaatlichkeit, Menschenrechte, demokratische Werte und die Diversität” aufrechterhalten und fördern. Als solches sollten ‘human rights and impact assessments (HRIAs), Due Diligence und Kodizes ethischen Verhaltens unter anderem von Unternehmen durchgeführt oder entwickelt werden, die auf KI setzen. Das oberste Ziel solcher Bemühungen ist die Förderung einer „fairen und gerechten Gesellschaft”.
Unabhängig davon, was der Stand des deklarativen Wissens zu bestimmten KI-Technologien ist, sollten Unternehmen und andere Interessenvertreter ein allgemeines Verständnis für den Einsatz von KI-Technologien fördern. Verbraucher sollten insbesondere in der Lage sein, „die Hauptfaktoren einer Entscheidung, die bestimmenden Faktoren, die Daten, die Logik oder den Algorithmus hinter [einem] spezifischen Ergebnis [zu verstehen] oder erklären zu können, warum ähnlich aussehende Umstände zu einem anderen Ergebnis [führen]”.
Dieses Prinzip besagt, dass Unternehmen und andere Akteure beim Einsatz von KI-Technologien darauf achten sollten, dass ihre Systeme robust und sicher sind – nicht nur kurzfristig, sondern auch langfristig. Kontinuierliche Anstrengungen zur Bewertung und Überwachung von KI-Systemen – und Technologien sind dabei unabdingbar. Zwei konkrete Prinzipien der OECD, die auf die Förderung von Robustheit und Sicherheit abzielen sind: „1. [Die] Rückverfolgbarkeit und anschließende Analyse und Untersuchung, und 2. [die] Anwendung eines Risikomanagementansatzes”.
Organisationen und Einzelpersonen, so betont die OECD, die an der Entwicklung, dem Einsatz und dem Betrieb von KI-Systemen beteiligt sind, sollten mit Bezug auf ihre Einhaltung der OECD-KI-Prinzipien zur Rechenschaft gezogen werden. Während die Rechenschaftspflicht als eine moralische Verantwortung interpretiert wird, könnte es sicherlich auch interessant sein, zukünftig über weitergehende, rechtliche Verpflichtungen zu diskutieren. Insbesondere weil eine Reihe von rechtlichen Vorschriften (z. B. DSGVO) es KI-Entwicklern erschweren neue Dienste anzubieten, die teils Erklärbarkeitslücken aufweisen während ihre Innovation dringend notwendig ist, wird es in der Zukunft unabdinglich sein, dass politische Entscheidungsträger menschliche und maschinell verursachte Fehler verstehen und unterscheiden können. Obwohl der Mangel an deklarativem Wissen über bestimmte Technologien unter bestimmten Umständen weniger wichtig sein könnte als deren Fähigkeit Probleme zu lösen, ist dies nicht allgemeingültig. Politische Rahmenbedingungen sollten ohne Frage Raum für beides bieten (d. h. Forschung bezüglich deklarativer Zusammenhänge und Innovation) und gleichzeitig die dringendsten gesellschaftlichen Bedürfnisse im Auge behalten.
Obwohl die KI-Prinzipien der OECD sicherlich einen relevanten wertebasierten Rahmen für den Einsatz von KI-Technologien darstellen, sind sie nicht allumfassend. Einerseits müssen solche Prinzipien natürlich allgemein bleiben, damit sie von möglichst vielen Regierungen, internationalen Unternehmen und anderen internationalen Akteuren (z. B. Banken) übernommen werden können. Allerdings erscheint die Annahme, dass die Einhaltung von Gesetzen zwangsläufig dazu führt, KI-Akteure in den Kampf für eine ‘gerechte und faire Gesellschaft’ einzubeziehen, ein wenig einseitig. Es ist kein Geheimnis, dass Gesetze sowohl sehr gut dazu geeignet sind, Ungleichheiten und Diskriminierung zu zähmen, als auch Letztere zu verstärken. Darüber hinaus können Extremsituationen, wie vorher erwähnt, kurzfristig einen Verzicht auf (ein gewisses Maß an) Erklärbarkeit erfordern – solange dadurch vielen Menschen geholfen werden kann.
Political and economic aspects, among other preconditions (i.e. policy-makers trained in understanding AI tech), certainly play a role in ensuring the quality of support, which individual actors (i.e. start-ups, SMEs) will receive.
Insgesamt sollte der Einsatz von KI-Technologien auf jeden Fall beobachtet werden, um positive und negative Auswirkungen immer wieder auszubalancieren sowie den Impact von KI-Technologien zu optimieren – wobei der Letztere wohl in einer Grauzone liegt. Während sich die KI-Prinzipien der OECD auf die Pflichten von KI-Anbietern fokussieren, darf nicht vergessen werden, dass diese eine umfassende und zielgruppenorientierte Unterstützung sowie ein befähigendes politisches und wirtschaftliches Umfeld benötigen. Zwar gibt die OECD einige Empfehlungen für politische Entscheidungsträger, die diese Notwendigkeit unterstreichen (d. h. „Investitionen in KI R&D; [die] Förderung eines digitalen Ökosystems für KI; [die] Bereitstellung eines förderlichen politischen Umfelds für KI; [den] Aufbau menschlicher Kapazitäten und [die] Vorbereitung des Übergangs in den Arbeitsmarkt; internationale Zusammenarbeit für vertrauenswürdige KI[-Anwendungen”), jedoch hängt der Erfolg solcher Bemühungen sicherlich auch davon ab, wie gut solche Maßnahmen regional umsetzbar sind. Bei der Sicherung der Qualität der Hilfe, die individuelle Akteure (d. h. Start-Ups, KMUs) in der KI-Branche bekommen, spielen unter anderem politische und wirtschaftliche Aspekte eine Rolle (u.a. politische Entscheidungsträger sollten geschult werden um KI-Technologien zu verstehen).
Centurion Plus
Ob Investor, Start-up-Gründer oder KMU, unser Team unterstützt Sie effektiv in Bezug auf rechtliche Fragen. Wir beschäftigen Rechtsexperten mit Kenntnissen über verschiedene afrikanische Jurisdiktionen hinweg und haben Erfahrung in der Beratung zu Themen wie Arbeits- und Migrationsrecht, Steuern und Zölle, Verträge und Verhandlungen, Unternehmensführung und Compliance sowie Datenschutz. Neben unseren Büros in Afrika haben wir auch einen Standort in Deutschland eröffnet! Wir sind international eingestellt…Sie auch? Dann kontaktieren Sie uns noch heute für eine Zusammenarbeit!
