Verbraucherzentrale im Kreis Höxter zeigt, wann Unternehmen Auskunft geben müssen und wie Betroffene gegen intransparente Entscheidungen vorgehen können.
Kreis Höxter. KI-Entscheidungen spielen im Alltag von Verbraucher:innen eine immer größere Rolle: Ein abgelehnter Kredit, die Kündigung eines Vertrags oder personalisierte Werbung können auf automatisierten Bewertungen beruhen. Unternehmen analysieren dafür teils große Mengen persönlicher Daten, etwa Kaufverhalten, Standortdaten oder Informationen aus Apps und Kundenkonten.
© Verbraucherzentrale NRW / adpic
„Vielen ist nicht bewusst, wie stark automatisierte Entscheidungen ihren Alltag beeinflussen“, sagt Ute Delimat, Leiterin der Verbraucherzentrale NRW im Kreis Höxter. „Problematisch wird es vor allem dann, wenn Betroffene nicht nachvollziehen können, warum sie schlechtere Konditionen erhalten oder ein Vertrag abgelehnt wird.“ Der Europäische Gerichtshof legt die Datenschutz-Grundverordnung (DSGVO) streng aus und konkretisiert damit Verbraucherrechte. Die Verbraucherzentrale NRW erklärt, wie Verbraucher:innen ihre Rechte bei KI-Entscheidungen wahrnehmen können, und stellt dafür einen Musterbrief zur Verfügung.
Welche Grenzen setzt der europäische Datenschutz dem KI-Einsatz?
Seit Inkrafttreten der DSGVO vor zehn Jahren hat sich der digitale Verbraucheralltag grundlegend verändert. Apps erfassen Standortdaten, Plattformen analysieren Nutzungsverhalten und Bonusprogramme erstellen umfangreiche Kundenprofile. Viele Dienste erscheinen zwar auf den ersten Blick kostenlos, tatsächlich bezahlen Nutzer:innen jedoch häufig mit ihren persönlichen Daten.
Unternehmen treffen Entscheidungen heute oft vollständig automatisiert, also ohne menschliches Eingreifen. Gleichzeitig hat der Europäische Gerichtshof klargestellt: Betroffene haben ein Recht auf Erklärung, wenn dafür ihre persönlichen Daten verwendet werden. Die DSGVO gibt damit wichtige Werkzeuge an die Hand, um die Kontrolle über die eigenen Daten zu behalten und sich gegen intransparente oder fehlerhafte Entscheidungen zu wehren.
Welche Rechte haben Verbraucher:innen konkret?
Verbraucher:innen haben das Recht zu erfahren, ob Unternehmen automatisierte Entscheidungsverfahren oder sogenanntes Profiling einsetzen. Hinweise darauf finden sich häufig in Datenschutzhinweisen unter Begriffen wie „automatisierte Entscheidungsfindung“, „Scoring“ oder „Profiling“.
Zudem können Betroffene Auskunft darüber verlangen, welche personenbezogenen Daten verarbeitet wurden und welche Informationen in die Entscheidung eingeflossen sind. Außerdem können sie erfahren, nach welchen Kriterien die Entscheidung getroffen wurde und welche Folgen dies für sie hat. Diese Auskünfte müssen Unternehmen kostenfrei erteilen und grundsätzlich innerhalb eines Monats beantworten.
Was können Betroffene bei nachteiligen KI-Entscheidungen tun?
Bei Zweifeln an der Richtigkeit einer ablehnenden oder nachteiligen Entscheidung können Betroffene zunächst beim Unternehmen nachfragen, ob diese auf einem automatisierten Verfahren oder Profiling beruht. Außerdem können sie Auskunft darüber verlangen, welche Daten eingeflossen sind und wie die Entscheidung zustande gekommen ist. Dazu stellt die Verbraucherzentrale NRW einen Musterbrief zur Verfügung.
Besonders wichtig ist es zu prüfen, ob falsche oder veraltete Daten verwendet wurden. Fehlerhafte Angaben können erhebliche Folgen haben, zum Beispiel bei Bonitätsbewertungen oder Vertragsentscheidungen. Verbraucher:innen können unzutreffende Daten korrigieren lassen und der Verarbeitung ihrer Daten unter bestimmten Voraussetzungen widersprechen.
Sollte das Unternehmen nicht reagieren oder die Auskunft verweigern, können sich Ratsuchende an die zuständige Datenschutzaufsichtsbehörde oder an die Verbraucherzentrale NRW wenden.
Weiterführende Informationen:
Der Musterbrief zum Recht auf Erklärung bei KI-Entscheidungen ist online abrufbar. Weitere Informationen gibt es außerdem auf der Seite Alles zur DSGVO der Verbraucherzentrale NRW.
