Bild: Nadya So / Shutterstock.com
Ein Computer entscheidet. Ein Fahrer verliert plötzlich seinen Zugang zur Plattform. Und am Ende steht eine Rechnung über fast 825 Millionen Euro.
Was nach einem Science-Fiction-Szenario klingt, ist jetzt Realität. Die niederländische Datenschutzbehörde hat gegen Uber eine der höchsten Strafen verhängt, die es bisher nach den europäischen Datenschutzregeln gegeben hat.
Der Vorwurf: Uber soll zwischen 2018 und 2022 Fahrer-Konten teilweise automatisch sperren lassen haben. Ein Algorithmus wertete unter anderem das Verhalten der Fahrer und die Bewertungen von Kunden aus. Bei einem Verdacht auf Betrug oder bei schlechten Bewertungen konnte das System eine Sperre auslösen.
Das Problem aus Sicht der Behörden: Wenn eine Maschine über eine Entscheidung mit erheblichen Folgen für einen Menschen entscheidet, darf der Mensch nicht einfach aus dem Verfahren verschwinden.
Und genau hier wird der Fall für Unternehmen jeder Größe interessant.
Wenn plötzlich der Computer über den Job entscheidet
Stellen wir uns einen Fahrer vor, der morgens seine App öffnet – und plötzlich nicht mehr arbeiten kann.
Kein Gespräch mit einem Mitarbeiter. Kein persönlicher Anruf. Keine Möglichkeit, vor der Sperre seine Sicht der Dinge zu erklären.
Stattdessen hat ein System anhand bestimmter Daten entschieden: Dieses Konto wird gesperrt.
Für einen Fahrer kann das dramatische Folgen haben. Denn wer über eine Plattform wie Uber arbeitet, ist auf den Zugang angewiesen. Ist das Konto blockiert, können keine Fahrten angenommen werden. Damit fällt möglicherweise unmittelbar das Einkommen weg.
Genau deshalb betrachten die europäischen Datenschutzregeln solche automatisierten Entscheidungen besonders kritisch.
Es geht dabei nicht darum, dass Unternehmen überhaupt keine Algorithmen einsetzen dürfen. Natürlich dürfen Computer große Datenmengen analysieren und Unternehmen bei Entscheidungen unterstützen.
Die entscheidende Frage lautet vielmehr: Darf der Computer am Ende ganz allein den entscheidenden Knopf drücken?
Was Uber vorgeworfen wird
Nach den Feststellungen der niederländischen Datenschutzbehörde wurden Fahrer unter anderem dann automatisch vorübergehend gesperrt, wenn ein Verdacht auf Betrug bestand.
Dazu konnten beispielsweise ungewöhnliche Fahrten oder bestimmte Verhaltensmuster gehören.
Auch Kundenbewertungen spielten eine Rolle. Bei dauerhaft schlechten Bewertungen konnten Konten nach den Feststellungen der Behörde sogar dauerhaft deaktiviert werden.
Das klingt zunächst nach einem nachvollziehbaren Schutzmechanismus. Schließlich muss eine Plattform gegen Betrug vorgehen und Kunden schützen.
Doch genau hier liegt der schwierige Punkt: Ein Algorithmus kann Muster erkennen. Er kann aber nicht automatisch verstehen, warum ein bestimmtes Ereignis passiert ist.
Ein Fahrer kann beispielsweise eine ungewöhnliche Route genommen haben, weil eine Straße gesperrt war. Eine schlechte Bewertung kann auf einem Missverständnis beruhen. Ein ungewöhnliches Verhalten kann einen völlig harmlosen Grund haben.
Ein Computer sieht zunächst nur Daten.
Ein Mensch kann nachfragen.
825 Millionen Euro: Eine Strafe mit Signalwirkung
Die Summe ist gewaltig: 824,99 Millionen Euro.
Damit gehört die Strafe zu den größten Geldbußen, die bisher nach den europäischen Datenschutzregeln verhängt wurden. Nur die milliardenschwere Strafe gegen Meta aus dem Jahr 2023 liegt in diesem Bereich noch darüber.
Die niederländische Behörde begründet die enorme Höhe unter anderem mit der Dauer und der Bedeutung der Verstöße. Die beanstandeten Entscheidungen konnten erhebliche Auswirkungen auf die berufliche Situation der betroffenen Fahrer haben.
Die Behörde stellte außerdem fest, dass die Fahrer nicht ausreichend darüber informiert worden seien, dass solche automatisierten Entscheidungen getroffen wurden.
Das ist ein entscheidender Punkt.
Denn Menschen sollen nicht erst dann erfahren, dass eine Maschine über ihre berufliche Zukunft entscheidet, wenn plötzlich der Zugang gesperrt ist.
Der Fall begann mit 171 französischen Fahrern
Hinter der riesigen Summe steckt eine Geschichte, die wesentlich kleiner angefangen hat.
Im Mittelpunkt stehen Beschwerden französischer Uber-Fahrer. Mehr als 170 Fahrer wandten sich mit ihren Problemen an die französische Menschenrechtsorganisation Ligue des droits de l’Homme.
Die französische Datenschutzbehörde CNIL nahm die Beschwerden auf. Weil sich der europäische Hauptsitz von Uber in den Niederlanden befindet, wurde das Verfahren anschließend von der dortigen Datenschutzbehörde geführt.
Das ist ein interessantes Detail: Ein Streit, der mit Fahrern in Frankreich begann, führte am Ende zu einer Entscheidung der niederländischen Behörde mit europaweiter Bedeutung.
Die französische Behörde arbeitete dabei mit den niederländischen Kollegen zusammen.
Der Fall zeigt damit auch, wie europäische Datenschutzaufsicht heute funktioniert: Große Unternehmen können sich nicht einfach darauf verlassen, dass ein Problem in einem Land bleibt, nur weil ihr Geschäft in vielen Ländern stattfindet.
Uber widerspricht: „Unverhältnismäßig!“
Uber akzeptiert die Entscheidung nicht. Das Unternehmen kündigte an, gegen die Strafe vorzugehen, und bezeichnete die Summe als unverhältnismäßig.
Uber betont außerdem, dass die beanstandeten Verfahren aus der Vergangenheit stammen und inzwischen verändert worden seien. Nach Darstellung des Unternehmens gibt es heute menschliche Prüfungen und Möglichkeiten für Fahrer, gegen Sperren vorzugehen.
Auch bestreitet Uber, dass dauerhafte Kontosperren vollständig automatisch vorgenommen worden seien.
Das ist wichtig: Die Strafe ist zwar ausgesprochen, aber damit ist der Streit noch nicht zwangsläufig beendet.
Uber kann die Entscheidung rechtlich angreifen. Ob die Strafe in dieser Höhe am Ende Bestand haben wird, ist deshalb eine andere Frage.
Der Algorithmus ist nicht der Böse – aber er braucht Grenzen
Der Fall wirft eine viel größere Frage auf. Algorithmen sind überall. Banken nutzen sie bei der Bewertung von Kunden. Versicherungen analysieren Daten. Unternehmen filtern Bewerbungen. Plattformen bewerten Nutzer. Onlinehändler erkennen Betrugsversuche. Das kann sinnvoll sein. Niemand möchte schließlich, dass ein Unternehmen jeden einzelnen Vorgang manuell prüfen muss.
Problematisch wird es, wenn aus einer automatischen Analyse eine Entscheidung wird, die das Leben eines Menschen spürbar verändert – und niemand mehr erklären kann, warum diese Entscheidung getroffen wurde. Genau deshalb sind transparente Prozesse so wichtig.
Ein Unternehmen sollte wissen, welche Daten in eine Entscheidung einfließen. Es sollte nachvollziehbar sein, warum ein System einen bestimmten Verdacht entwickelt. Und vor allem sollte ein Mensch eingreifen können, wenn eine Entscheidung für den Betroffenen erhebliche Folgen hat.
Was Unternehmen daraus lernen sollten
Der Uber-Fall ist nicht nur für internationale Plattformkonzerne interessant.
Auch kleinere Unternehmen setzen inzwischen auf automatische Systeme.
Software sortiert Bewerbungen. Programme erkennen verdächtige Transaktionen. Kunden werden automatisch bewertet. Versicherungsanträge werden digital geprüft. Mitarbeiter werden anhand von Kennzahlen bewertet.
Je stärker solche Systeme in das Leben von Menschen eingreifen, desto wichtiger wird die Frage: Was passiert, wenn der Computer falschliegt?
Unternehmen sollten deshalb ihre automatisierten Prozesse kritisch prüfen.
Werden Menschen über solche Verfahren informiert?
Kann ein Betroffener verstehen, warum eine Entscheidung getroffen wurde?
Kann ein Mensch die Entscheidung überprüfen?
Gibt es eine Möglichkeit, Fehler zu korrigieren?
Und vor allem: Hat wirklich ein Mensch die letzte Entscheidung getroffen – oder wurde nur ein automatisches Ergebnis von einem Mitarbeiter durchgewunken?
Der Unterschied kann entscheidend sein.
Uber hatte schon vorher Ärger mit dem Datenschutz
Die aktuelle Strafe kommt für Uber nicht aus dem Nichts.
Die niederländische Datenschutzbehörde hatte das Unternehmen bereits mehrfach ins Visier genommen.
2023 wurde eine Strafe von zehn Millionen Euro verhängt. 2024 folgte eine weitere Geldbuße von 290 Millionen Euro im Zusammenhang mit der Übermittlung personenbezogener Daten europäischer Fahrer in die USA.
Die jetzt verhängten knapp 825 Millionen Euro setzen noch einmal eine völlig andere Größenordnung.
Das zeigt, wie ernst europäische Datenschutzbehörden inzwischen mit großen Plattformen umgehen.
Datenschutz ist längst kein lästiges Nebenthema mehr, das Unternehmen irgendwo im Kleingedruckten erledigen können.
Für internationale Konzerne kann Datenschutz inzwischen ein finanzielles Risiko in Milliardenhöhe sein.
Ein Algorithmus darf kein Richter ohne Berufungsinstanz sein
Unternehmen lieben Algorithmen, weil sie schnell, billig und skalierbar sind. Menschen dagegen sind langsam, teuer und machen Fehler.
Das Problem: Genau deshalb brauchen wir Menschen dort, wo Entscheidungen über andere Menschen besonders schwer wiegen.
Ein Computer kann feststellen, dass 37 Datenpunkte gegen einen Fahrer sprechen. Er kann aber nicht automatisch verstehen, dass hinter dem 38. Datenpunkt vielleicht eine völlig harmlose Erklärung steckt.
Wer einem Algorithmus die Macht gibt, Menschen ihren Job wegzunehmen, sollte auch einen Menschen danebenstellen, der den Algorithmus zur Not stoppen kann.
Denn Technologie soll Menschen unterstützen – nicht Menschen zu Nummern machen.
Die 825-Millionen-Euro-Strafe gegen Uber ist deshalb mehr als eine saftige Rechnung für einen einzelnen Konzern. Sie ist ein Warnsignal an alle Unternehmen, die Entscheidungen zunehmend automatisieren.
Die Botschaft aus Europa lautet ziemlich deutlich: Man darf eine Maschine rechnen lassen. Aber wenn am Ende ein Mensch den Preis bezahlt, sollte man besser erklären können, warum.
Vermeide existenzbedrohende Strafen durch fehlerhafte Algorithmen. Lass Dich rechtlich beraten und sichere Dein Unternehmen ab!
zum AnwaltZum Festpreis 169 EURO (brutto)
