Der US-Bundesstaat New York hat als erster in den Vereinigten Staaten eine gesetzliche Regelung eingeführt, die Unternehmen verpflichtet, den Einsatz von Algorithmen und persönlichen Daten bei der Preisgestaltung offenzulegen. Ein Gericht wies Klagen der Industrie gegen diese Maßnahme zurück.
New York geht juristisch gegen das sogenannte „Surveillance Pricing“ vor. Ein neues Gesetz, das laut einem Bericht der New York Times in Kraft trat, zwingt Online-Händler dazu, ihre Kunden zu informieren, wenn Preise auf Grundlage persönlicher Daten und künstlicher Intelligenz festgelegt werden.
Ziel dieser Regelung ist es, Verbraucher vor intransparenten Preiserhöhungen zu schützen, bei denen Algorithmen beispielsweise zahlungskräftigeren Kunden höhere Preise für dasselbe Produkt anzeigen. Händler, die solche Methoden anwenden, sind nun verpflichtet, den Hinweis einzublenden: „THIS PRICE WAS SET BY AN ALGORITHM USING YOUR PERSONAL DATA.“
Die National Retail Federation versuchte, das Gesetz durch eine Klage vor einem Bundesgericht zu stoppen und argumentierte, die Kennzeichnung sei irreführend und verletze Rederechte. Richter Jed S. Rakoff wies den Antrag jedoch zurück.
Experten betrachten dieses Gesetz als Präzedenzfall. Goli Mahdavi, Anwältin für KI und Datenschutz, bezeichnete algorithmische Preisgestaltung gegenüber der New York Times als das „wahrscheinlich nächste große Schlachtfeld der KI-Regulierung“. Ähnliche Verbote oder Kennzeichnungspflichten werden auch in Kalifornien und auf Bundesebene diskutiert.
Lina Khan, ehemalige Vorsitzende der FTC, bezeichnete die Maßnahme als „absolut vital“ für die Behörden, warnte jedoch, dass die Praxis bereits drohe, „vollständig in die Wirtschaft einzusickern“, und es weiterer Regulierung auf Staaten- und Bundesebene bedarf.
Uber hat bereits begonnen, den Hinweis in New York anzuzeigen, kritisiert jedoch das Gesetz scharf. Ein Sprecher bezeichnete es als „schlecht formuliert und zweideutig“ und bestritt, dass Uber individuelle Daten über Ort und Nachfrage hinaus für die Preisgestaltung nutze. Verbraucherschützer berichten hingegen von Fällen, in denen unterschiedlichen Nutzern zeitgleich verschiedene Preise für identische Strecken angezeigt wurden.
In Europa ist personalisierte oder dynamische Preisgestaltung grundsätzlich erlaubt, wird jedoch zunehmend strenger reguliert. Seit 2022 müssen Online-Händler in der EU – und damit auch in Deutschland – deutlich darauf hinweisen, wenn ein Preis individuell mithilfe automatisierter Systeme und persönlicher Daten angepasst wurde. Zudem gelten strengere Regeln für Preisangaben und Rabatte sowie der Datenschutz (DSGVO), der festlegt, wie Profile gebildet und wofür sie genutzt werden dürfen.
In der Praxis variieren die Online-Preise bereits je nach Zeitpunkt oder Konkurrenzpreisen. Auch Unterschiede je nach Wohnort oder Endgerät sind möglich. Ein Bericht aus dem Oktober dieses Jahres stellte jedoch fest, dass praktisch keine personalisierte Preisgestaltung beobachtet wurde, obwohl diese rechtlich möglich wäre. Der Verbraucherschutz gibt Empfehlungen, wie mit solchen dynamischen Preisen besser umgegangen werden kann.
Der neue EU AI Act setzt auf einer anderen Ebene an: Er verbietet bestimmte manipulative KI-Praktiken und stellt besonders risikobehaftete Einsatzbereiche – wie im Finanz- oder Behördenkontext – unter strenge Auflagen. Preisalgorithmen im Online-Handel fallen in der Regel nicht in diese Hochrisiko-Kategorie, können jedoch relevant werden, wenn sie gezielt Schwächen ausnutzen oder Teil von Kredit- oder Versicherungsentscheidungen sind.
Bildquelle: Unsplash / pascal lefort
KI Snack
