Künstliche Intelligenz: Herausforderung oder Chance für den Verbraucherschutz?
Die wichtige Rolle, die Künstliche Intelligenz immer mehr in unserem Konsumalltag spielt, wirft die Frage auf, welche Folgen dies eigentlich für uns als Verbraucher hat. Wie sehen die damit verbundenen Chancen und Risiken aus? Und was bedeutet das für den Verbraucherschutz?
Künstliche Intelligenz prägt immer stärker unseren Alltag. Ob im Supermarkt, im Schwimmbad oder auf der Straße: KI-Tools entscheiden mithilfe personalisierter Empfehlungssysteme oder von Algorithmen bei der Internetsuche zunehmend mit, welche Inhalte und Artikel uns angezeigt werden und wer welche Angebote oder Vertragskonditionen erhält – sei es durch Preisvergleichs-Websites, durch personalisierte Werbung, Beantwortung von Kundenanfragen durch KI-Bots oder die KI-gesteuerte dynamische Gestaltung von Preisen.
Die Vorteile für die Verbraucher:innen
Dies bietet im Idealfall allen Seiten einige Vorteile: Beim digitalen Shopping z.B. finden Kund:innen schneller und meist auch günstiger, wonach sie suchen bzw. haben ein besseres Einkaufserlebnis, während die Unternehmen interne Prozesse optimieren und mehr Produkte verkaufen können. Auch der Service bzw. die Kommunikation mit den Kund:innen kann etwa vom Einsatz von Chatbots profitieren, die dauerhaft erreichbar sind.
Darüber hinaus können KI-Anwendungen auch zum Schutz vor Abzocke beitragen, etwa indem betrügerische Angebote erkannt werden. So durchsucht beispielsweise der Fake Shop-Finder der deutschen Verbraucherzentrale das Netz KI-basiert nach entsprechenden betrügerischen Angeboten und hilft dabei, die Seriosität eines Internetshops einzuschätzen. Und in Zukunft könnten KI-Anwendungen die Menschen auch dabei unterstützen, komplizierte Verträge, AGB-Vereinbarungen oder Behördentexte zusammenzufassen und auf mögliche rechtliche Benachteiligungen zu prüfen.
…und die Gefahren
Wie bei allen Dingen, gehen mit diesen Chancen aber natürlich auch gewisse Herausforderungen und Risiken einher. Zum einen stellen sich die für digitale Anwendungen üblichen Fragen, was mit den Daten der Nutzer:innen passiert bzw. wie diese geschützt werden und wie fehleranfällig und zuverlässig die KI-Anwendungen sind. Zum anderen eröffnen die Potenziale von KI auch neue Möglichkeiten für Manipulationen und Betrugsversuche, beispielsweise durch KI-generierte Phishing-Mails oder gefälschte Produktbewertungen durch KI-Bots.
Hinzu kommen allgemeinere gesellschaftliche Herausforderungen, wie die Zunahme von Desinformation oder die Fortsetzung diskriminierender Bewertungsmuster durch Algorithmen, die bei bei der Nutzung digitaler Dienste auftreten können. So ist zum Beispiel die KI-gesteuerte Gesichts- und Emotionserkennung oft noch ungenau und führt zu falschen Annahmen, was etwa im Finanz- und Versicherungsbereich gravierende Auswirkungen für die Betroffenen haben kann.
Was wird für den Verbraucherschutz getan?
Die oft fehlende Transparenz und Nachvollziehbarkeit von KI-Entscheidungen ist dabei ein grundlegendes Problem, das ebenso wie die anderen Punkte nach Regulierung der neuen Technologie verlangt. Ein wichtiger Schritt dafür ist der AI-Act der EU, der noch in diesem Jahr Gesetzeskraft erlangen soll. In Deutschland gibt es zudem Initiativen wie das Zentrum für vertrauenswürdige KI, das als Schnittstelle zwischen Wissenschaft, Wirtschaft, Politik und Zivilgesellschaft über verbraucherrelevante Entwicklungen zu Künstlicher Intelligenz informiert.
Zudem hat sich der Bundesverband Verbraucherzentrale des Themas angenommen, gibt Hinweise dazu und fordert u.a. eine verbraucherorientierte Algorithmenkontrolle, mehr Transparenz bei KI-Entscheidungen sowie ein Verbot von biometrischer Fernidentifizierung im öffentlichen Raum sowie von „Manipulation, Emotionserkennung und Ausnutzung persönlicher Schwächen durch KI“. Die Vorständin der Verbraucherzentrale Ramona Pop fordert dementsprechend eine Stärkung der Verbraucherrechte, ein Recht auf Korrektur und Löschung gegenüber KI-generierten Inhalten sowie eine KI-Aufsichtsbehörde.
Wohin die Reise letztlich geht und welche Rolle der AI Act dabei spielen wird, muss sich noch zeigen. Damit wir als Gesellschaft aber insgesamt von den Potenzialen neuer Technologien profitieren können, braucht es eine sinnvolle Regulierung, die die Risiken minimiert, aber zugleich die Chancen erhält und fördert. Für die vielen bereits existierenden KI-Anwendungen im Konsumalltag ist das keine kleine Herausforderung.
Event-Hinweis:
Am 14. März 2024 wird Ramona Pop zu Gast im BASECAMP sein, um in unserer nächsten Ausgabe von „Nachgefragt!“ über den Einsatz von künstlicher Intelligenz im Alltag zu sprechen.
Empfehlung der Redaktion
Artikel teilen
Autor:in
