Projektabschluss: Wie KI in der Kreditberatung verbraucherorientiert eingesetzt werden kann

Kreditberatung spielt eine zentrale Rolle, wenn Verbraucher:innen fundierte Entscheidungen über Kredite treffen sollen. In der Praxis ist eine qualitätsgesicherte Beratung jedoch zeit- und personalintensiv und steht daher nicht allen Verbrauchergruppen gleichermaßen zur Verfügung. Künstliche Intelligenz (KI) wird zunehmend als Möglichkeit diskutiert, Kreditberatung effizienter und breiter zugänglich zu machen.

Das nun abgeschlossene Forschungsprojekt zur automatisierten Kreditberatung zeigt, wie der verbraucherorientierte Einsatz von KI-gestützter Kreditberatung erfolgreich umgesetzt werden kann.

KI kann Zugang verbessern – birgt aber Risiken

KI-Systeme können Banken dabei unterstützen, standardisierte und zugleich individualisierte Kreditberatung anzubieten. Dadurch könnten mehr Verbraucher:innen Zugang zu passenden Kreditprodukten erhalten, und zwar unabhängig von persönlichen Erfahrungen oder finanziellen Anreizen einzelner Berater:innen.

Gleichzeitig macht der Abschlussbericht deutlich, dass der Einsatz von KI in der Kreditberatung mit erheblichen rechtlichen, technischen und ethischen Herausforderungen verbunden ist. Da Softwareanwendungen in der Praxis häufig Kreditberatung und -vergabe miteinander verbinden, geht der Bericht in seiner Risikoanalyse davon aus, dass KI-Tools künftig auch beide Funktionen abdecken. Im Mittelpunkt stehen dabei Fragen des Datenschutzes, der Antidiskriminierung und des Schutzes der Entscheidungsautonomie von Verbraucher:innen.

Automatisierte Kreditprozesse unterliegen strengen Datenschutzregeln

Aus datenschutzrechtlicher Sicht kommt der Bericht zu dem Ergebnis, dass KI-gestützte Kreditberatung samt Kreditvergabe in der Regel unter das Verbot vollautomatisierter Entscheidungen nach der Datenschutz-Grundverordnung (DSGVO) fallen. Solche Entscheidungen sind auch dann zulässig, wenn sie für den Abschluss oder die Durchführung eines Vertrags erforderlich sind.

Doch aber auch in diesen Ausnahmefällen müssen Banken umfassende Schutzmaßnahmen vorsehen. Dazu gehören unter anderem:

· transparente Informationen über den Einsatz von KI,

· das Recht auf menschliches Eingreifen,

· die Möglichkeit, den eigenen Standpunkt darzulegen,

· sowie das Recht, Kreditentscheidungen überprüfen und anfechten zu lassen.

Diskriminierung vermeiden – Potenziale gezielt nutzen

Der Einsatz von KI kann helfen, diskriminierende Einzelentscheidungen zu reduzieren. Gleichzeitig besteht die Gefahr, dass bestehende Ungleichheiten durch selbstlernende Systeme fortgeschrieben oder verstärkt werden; etwa durch bestimmte Auswahlkriterien oder verzerrte Trainingsdaten. Laut Bericht entstehen Diskriminierungsrisiken z. B. dann, wenn für die Identifikation erforderlichen Merkmale wie Staatsangehörigkeit, Wohnsitz oder Geschlecht direkt oder indirekt in die Bewertung einfließen. Auch scheinbar neutrale Kriterien wie z. B. die allgemeine Hochschulreife können bestimmte Gruppen systematisch benachteiligen. Um dem entgegenzuwirken, sind regelmäßige Prüfungen der eingesetzten Variablen und Datensätze sowie der Ergebnisse notwendig.

Schutz vor unzulässiger Beeinflussung

Ein weiterer Schwerpunkt des Projekts liegt auf dem Schutz der Entscheidungsfreiheit von Verbraucher:innen. KI-Systeme dürfen nicht dazu eingesetzt werden, Entscheidungen durch manipulative Gestaltung, Dark Patterns oder unterschwellige Beeinflussung zu lenken.

Der Bericht empfiehlt daher klare Präventions- und Kontrollmechanismen, um sicherzustellen, dass KI-gestützte Beratung die Autonomie von Verbraucher:innen respektiert und nicht untergräbt.

Leitfaden für eine verbraucherorientierte KI-Nutzung

Auf Basis der rechtlichen Analyse entwickelt der Abschlussbericht einen Leitfaden für die Konzeption und den Einsatz von KI-gestützten Kreditberatungstools. Ziel ist es, Effizienzgewinne durch KI mit hohen Standards des Verbraucher- und Datenschutzes zu verbinden.

Zum vollständigen Bericht

Zur englischen Fassung des Berichts