Stiftung Warentest
KI entscheidet über Jobs und Kredite – Was Verbraucher tun können
Künstliche Intelligenz mischt inzwischen überall mit. Sie entscheidet auch über Preise oder sortiert Bewerber aus. Doch man kann Kontrolle zurückgewinnen.
© Simon Granville
Morgens eine Versicherung abschließen, abends einen Film streamen: Überall mischt Künstliche Intelligenz inzwischen mit. (Symbolbild)
Von red/KNA
Über Jobs, Wohnungen und Versicherungen, auch über die Vergabe von Rabatten und Krediten entscheiden immer häufiger Anwendungen der Künstlichen Intelligenz (KI): Darauf weist die Stiftung Warentest am Donnerstag hin. „Besonders problematisch ist dabei die mangelnde Transparenz. Verbraucher wissen oft nicht, warum sie einen schlechteren Kredit-Score oder höheren Preis bekommen.“
So sortiere in vielen Unternehmen eine Software vor, bevor ein Mensch einen Blick auf Bewerbungen werfe. Auch bei Streaming-Diensten, Banken oder Versicherungen „entscheiden automatisierte Systeme mit, ob ein Antrag durchgeht und wer welchen Tarif erhält - oder einen bestimmten Film zu sehen bekommt.“ Dies basiere teils auf festen Regeln, teils lernten die Anwendungen aus Daten und bildeten Muster. Letzteres berge die Gefahr, dass KI auch Vorurteile übernehme.
KI-Einsatz erkennen und aktiv werden
Als Nutzer oder Nutzerin merke man dies nicht direkt, sagte Psychologin Marisa Tschopp; es habe dennoch „reale Folgen. Auch in Medizin, Bildung oder Waffensystemen sind solche Systeme im Einsatz.“ Das Versprechen sei, den Alltag effizienter zu gestalten, doch vieles werde auch undurchsichtiger. Es gelte zu akzeptieren, „dass wir eigentlich schon viel mehr Kontrolle abgegeben haben, als uns bewusst ist. Wenn es ‚zu spät’ ist, müssen wir eben langsam anfangen, Widerstand zu leisten.“
Ein Hinweis auf den Einsatz von KI könnten sehr schnelle Entscheidungen sein, erklären die Verbraucherschützer. Zudem lohne sich ein Blick in Datenschutzerklärung und Nutzungsbedingungen, die „gelegentlich Hinweise“ darauf enthielten. Achten könne man darüber hinaus auf Begriffe wie „Scoring“, „automatisierte Verarbeitung“ oder „Profilbildung“.
Wem ein Kredit verweigert wird, der kann laut Stiftung stets nach einer Erklärung fragen, Widerspruch einlegen oder sich bei der zuständigen Datenschutzbehörde beschweren. In der Datenschutz-Grundverordnung sei das Recht auf Erklärung bei vollautomatisierten folgenreichen Entscheidungen festgeschrieben. Die Stiftung Warentest bietet zudem einen Musterbrief an, mit dem Verbraucherinnen und Verbraucher ihre Rechte geltend machen können.
