Eine Autobahn in Shanghai – und die Regierung fährt immer mit.
Foto: imago images/VCG

LondonDas soziale Kreditsystem der chinesischen Regierung hat die geballte Aufmerksamkeit des Westens auf sich gezogen. Das „Social-Scoring“-System, so der Name, hat US-Vizepräsident Mike Pence 2018 höchstpersönlich als „albtraumhaft“ und als „Orwell’sches System zur Kontrolle des gesamten menschlichen Lebens“ attackiert. Trotzdem herrscht immer noch Verwirrung darüber, was soziale Kreditsysteme sind – und was sie nicht sind. Die Wahrheit ist: Die Dystopie, die wir uns in Bezug auf China ausmalen, stimmt nicht immer mit der Realität überein. Schlimmer noch: Die vielen China-Klischees lenken von unserem eigenen westlichen Überwachungskapitalismus ab. Aber dazu später mehr.

Dieser Text ist im Weißbuch der Berliner Zeitung zum Thema Freiheit & Sicherheit erschienen.

Das Weißbuch versammelt zehn wichtige Schwerpunkte und stellt jeweils drei Perspektiven vor: aus Ost und West und jeweils einem Blick in die Zukunft. Alle Texte der Sonderausgabe finden Sie unter weissbuch.berliner-zeitung.de

Als Erstes ist es wichtig zu verstehen, wie Chinas Kontrollsysteme funktionieren. „Das soziale Kreditsystem wird oft als Inbegriff für Chinas Kontrollstaat und seine digitale Überwachungsapparatur verwendet“, sagt Katja Drinhausen, Analystin für chinesisches Recht am Mercator-Institut für China-Studien. Die Expertin räumt im Gespräch mit der Berliner Zeitung mit einigen Klischees auf: „Trotz vereinzelter Pilotprojekte gibt es aber kein landesweites ‚Bürgerkonto‘, wie es hierzulande oft heißt, das die Verhaltensweisen der Chinesen bewertet. Große Teile der Überwachungssysteme sind nicht einmal automatisiert.“

Lesen Sie die These (Ost) zu diesem Text

Das Ziel der chinesischen Regierung sei es zwar, ein Netzwerk von Verfolgungssystemen durchzusetzen, damit sich Einzelpersonen, aber auch Nichtregierungsorganisationen und Unternehmen an die chinesischen Gesetze halten. Dieses Ziel offenbaren Dokumente von 2014. Aber noch ist die Idee eher Skizze als Realität.

Lesen Sie die Anti-These (West) zu diesem Text

Die Idee hinter den Kontrollsystemen ist, Bürger zu bestrafen, die sich nicht an die staatliche Ordnung halten – also wenn sie zum Beispiel Bußgelder nicht bezahlen. Die möglichen Disziplinarmaßnahmen sind so erschreckend wie kreativ: von einer schambehafteten Anzeige eines Fotos auf der Onlineplattform Douyin, der lokalen Version von Tiktok, bis hin zu einem Kaufverbot von Bahntickets im Internet.

Bereits jetzt gibt es einige Beispiele, die zeigen, wie die Straf- und Bewertungssysteme tatsächlich funktionieren. Die Nachrichtenagentur Bloomberg hat jüngst von einem Experiment in der Stadt Suzhou berichtet, bei dem alle Bürger der Stadt ein Konto mit einer Punktezahl von 100 bekommen haben. Die Punkte wurden anschließend auf Grundlage ihres vermeintlich guten oder schlechten Verhaltens addiert oder subtrahiert. Den Bürgern wurde keine Erklärung gegeben, wie die Zahlen zustande kommen. Der Algorithmus ist geheim. Das sei eine klassische Kontrolltaktik, sagt Dr. Timothy Hildebrandt, außerordentlicher Professor an der London School of Economics.

„Die Regierung sagt, die Intransparenz sei wichtig, damit die Bürger die Spielregeln nicht austricksen können. Ich denke, dass diese Behauptung sogar stimmt“, sagt der Wissenschaftler. „Aber es ist genauso richtig, dass Menschen, wenn sie nicht genau wissen, nach welchen Grundlagen ihre soziale Kreditwürdigkeit berechnet wird, eher dazu neigen, auf Nummer sicher zu gehen und bei allem, was sie tun, vorsichtig zu sein.“ Dies sei besonders problematisch für Andersdenkende oder Menschen, die außerhalb politisch anerkannter sozialer Normen leben. Sie beschränken sich und fühlen sich unfrei. Mit anderen Worten: Ein soziales Kreditsystem ist eine Gefahr für die Demokratie.

Das chinesische Experiment mit dem Punktesystem war auf die Stadt Suzhou beschränkt. Die Ergebnisse lassen im ersten Moment aufatmen: Die überwiegende Mehrheit der Einwohner hat die Basis-Zahl von 100 Punkten nicht verloren. Der Bloomberg-Bericht deutet außerdem an, dass nur wenige Bürger von dem Bewertungssystem überhaupt gewusst haben. Ist also die Panik des Westens hinsichtlich des chinesischen Kreditsystems übertrieben?

Foto: privat
Die Autorin

Nicole Kobie wurde in Calgary, Kanada, geboren. Sie lebt in London und arbeitet als freie Journalistin, unter anderem für die britischen Magazine Wired und PC Pro.

Nein, kritische Wachsamkeit ist richtig. Trotzdem muss man ehrlich sein: Digitale Bewertungssysteme sind auch im Westen aktiv – nur eben anders als in China. Die Deutschen mag folgende Tatsache schockieren: Die Social-Scoring-Systeme in China basieren auf westlichen Modellen, auf Algorithmen von Kreditvergabe-Systemen, wie sie FICO in den USA oder Schufa in Deutschland erfunden haben und bis heute verwenden. Wirtschaftlich hinkte China lange Zeit hinterher. Als sich der Kapitalismus dort durchsetzte, brauchte die Regierung ein Instrument, um Unternehmen und Verbraucher zu kontrollieren, zu bewerten und nach einer Welle von Betrugsfällen ein Vertrauenssystem aufzubauen, damit der komplexe Kreislauf von Waren und Dienstleistungen oder sogar Nahrung überhaupt funktionieren kann.

„In jeder Ökonomie ist das knappste Gut Vertrauen“, sagt Xiaobai Shen von der Universität Edinburgh und fügt hinzu, dass das Social-Scoring-System Chinas einen Vorteil gegenüber den westlichen Systemen hat: Das System berücksichtigt Faktoren, die über die finanzielle Lage ihrer Nutzer hinausreichen. „Solche Arten von Systemen wie etwa die Schufa, die sich nur auf die Finanzlage des Bewerteten beziehen, bestrafen vor allem Menschen, die über wenig Reichtum verfügen.“

Der Westen muss ehrlicher mit sich sein

Die Intransparenz ist das größte Problem aller Bewertungssysteme, was auch Datenschutzrechtler kritisieren – nicht nur in China. Der Westen ist in seinen Bewertungssystemen nicht viel transparenter. Westliche Unternehmen nutzen Social-Scoring-Systeme, um die Vertrauenswürdigkeit ihrer Kunden einzuschätzen und ihr Verhalten zu beeinflussen. „Westliche Unternehmen nutzen die digitalen Technologien, um heimlich Daten zu sammeln und das Verhalten der Kunden so zu manipulieren, dass sie ihr Verhalten ändern – scheinbar freiwillig“, sagt Drinhausen. „Um mal ein paar Beispiele zu nennen: Colleges in den USA verwenden die Smartphones ihrer Studenten als Ortungsgeräte, um die Teilnahme an ihren Seminaren zu steigern. Europäische Krankenkassen verwenden moderne Technologien, um das Verhalten ihrer Kunden so zu beeinflussen, dass sie sich gesünder ernähren“, sagt sie. „Einzigartig am chinesischen Modell ist allerdings, dass das System als Säule in der Strafverfolgung fungiert.“ So etwas gebe es in Europa offiziell noch nicht.

Die sozialen Bewertungssysteme im Westen basieren normalerweise auf der Bewertung von anderen Nutzern, nicht auf der Bewertung der Regierung. Das ist der große Unterschied. Man schaue sich mal den Taxi-Dienst Uber an: Nach einer Fahrt in Berlin oder New York werde der Fahrgast bewertet, aber auch der Fahrer – und es bleibt unklar, worauf genau die jeweiligen Punktezahlen basieren. Der Algorithmus ist geheim. Wenn man als Kunde eine negative Bewertung bekommt, weiß man nicht genau, woran dies lag. Hat man vergessen, sich zu bedanken? Hat man Schmutz ins Auto getragen oder Müll auf dem Sitz zurückgelassen? Bei einem Taxi-Unternehmen ist eine schlechte Bewertung kein Beinbruch. Man kann sich einfach für ein anderes Unternehmen entscheiden. Solange die sozialen Bewertungssysteme von Uber nicht mit anderen Unternehmen geteilt werden, gibt es immer noch Alternativen, für die man sich entscheiden kann. Aber was passiert, wenn die von Uber gesammelten Daten in die falschen Hände geraten oder von dritter Stelle angezapft werden? Dann sieht die Sache schon ganz anders aus.

Warum lassen wir den Überwachungskapitalismus zu?

Es gibt bereits heute Vorfälle, die beweisen, dass Informationen von Unternehmen gesammelt und geteilt werden, ohne dass es die Nutzer erfahren. Ein Beispiel ist das amerikanische Unternehmen PatronScan. Die Firma baut Datenbanken auf, in denen Informationen von problematischen Kunden gespeichert werden – die Daten von Barbesuchern etwa, die sich in einer Kneipe geprügelt haben und aus den teilnehmenden Bars herausgehalten werden sollen. Ein anderes Beispiel: In New York haben Wohnungsaktivisten gegen schwarze Listen gekämpft, die Vermieter heimlich erstellt haben, um komplizierte Mieter vor einer neuen Wohnungsübernahme zu hindern – ein Rechtsbruch und ein klarer Fall von mangelnder Transparenz. All das passiert heute in unserem Alltag, hier im Westen – und niemand schreit auf. Wir sollten unsere Demokratien also nicht so sehr verherrlichen: Wir unterscheiden uns weniger von China, als wir gemeinhin denken.

Aber natürlich muss man differenzieren. Das Sammeln und Speichern von sensiblen Datensätzen ist in Europa aufgrund strengerer Datenschutzgesetze in großen Teilen illegal. In den USA sieht die Sache aber schon ganz anders aus. Dort haben Datenbroker freie Hand, um Daten zu sammeln und Profile von Amerikanern für Werbe- und Marketing-Zwecke zu erstellen. „Ich glaube nicht, dass die Menschen wirklich die Bewertungen fürchten, sondern das geheime Datensammeln an sich. Vielen macht die Idee Angst, dass in Zukunft komplexe technologische Verfahren dazu instrumentalisiert werden könnten, um sensible Daten zu verknüpfen und Schlüsse über Menschen zu ziehen, die man intuitiv gar nicht ziehen würde“, sagt Daum.

Die Frage ist, so Daum, warum wir weiterhin eine eigene Version des Überwachungsstaats, ja des Überwachungskapitalismus zulassen und nicht protestieren, obwohl wir es besser wissen müssten. „Wir mögen Chinas Ansätze nicht, weil wir ganz genau wissen, dass dort eine Regierung an der Macht ist, die klare Kontrollabsichten hat“, sagt der Wissenschaftler. „Aber was ist mit den USA? Dort bewerten wir die Lage ganz anders und lassen es Unternehmen durchgehen, fast ohne Regulierung sensible Daten für kommerzielle Zwecke zu verwenden. Was sagt das über uns aus?“

Wir alle werden überwacht

Jetzt wäre umsichtiges Handeln gefragt. Wir sollten China kritisieren und noch stärker unseren eigenen Überwachungskapitalismus verurteilen. Denn digitale Kontrollsysteme werden genau dann zur Gefahr, wenn ein Staat die Macht übernimmt, der über keine unabhängigen Gerichte und keine legislativen Kontrollinstanzen mehr verfügt. Momentan tendieren wir dazu, Chinas Kreditsysteme als dystoptische Wirklichkeit zu brandmarken. Wir lesen Science-Fiction-Romane wie „1984“ von George Orwell, schauen Netflix-Serien wie „Black Mirror“ und gruseln uns dabei. Das verhindert allerdings, dass wir die eigene Wirklichkeit genauer betrachten und bewerten.

Der alleinige Blick auf China birgt das Risiko, dass wir unsere eigenen sozialen Bewertungssysteme, unsere staatliche Überwachung normalisieren oder gar nicht erst erkennen. Wir dämonisieren Chinas Pläne, übersehen aber die Monster, die wir selbst geschaffen haben. „Je mehr digitale Überwachungssysteme mit China verbunden werden, desto weniger wahrscheinlich ist es, dass westliche Regierungen und Unternehmen dafür kritisiert werden, dass sie in die gleiche Richtung gehen“, sagt Hildebrandt. „Wir glauben, staatliche Kontrolle wäre eine Erfindung Chinas. Das ist aber nicht der Fall.“

Wir sollten aber nicht nur kritisieren, was wir im Westen falsch machen, sondern auch jene Schritte würdigen, die wir inbesondere als Europäer richtig eingeleitet haben. Chinas strenge staatliche Kontrolle und die schwachen Datenschutzgesetze lassen die totale Dystopie als reale Möglichkeit am Horizont aufflackern. Um dies zu verhindern, ist ein Pochen auf Rechtsstaatlichkeit und starke Gerichte gefragt. Wenn jetzt die Angst wächst vor dem chinesischen Sozialkreditsystem, der Omnipräsenz von Big Data und dem Überwachungskapitalismus im Allgemeinen, müsste die richtige Konsequenz sein, die eigenen rechtsstaatlichen Systeme zu schützen, sie zu verteidigen und das Wissen über unsere Demokratien mit anderen Staaten zu teilen.

„Wenn unser europäisches System funktioniert, sollten wir dieses Wissen nach China führen, damit die dortigen Systeme fairer gestaltet werden können. Immerhin ist China jetzt ein Teil der Welt. Wir sollten miteinander reden“, sagt Daum. Richtig ist aber auch: Wir alle werden digital überwacht, egal ob es sich um soziale Kreditsysteme oder Kundendaten handelt. Jetzt heißt es für alle – Europäer, Chinesen, Amerikaner –, Wege zu finden, um sich endlich zu wehren.

Der Text wurde aus dem Englischen von Tomasz Kurianowicz übertragen.