2008 wurde die Plattform Airbnb gegründet. Seitdem ist sie eine der erfolgreichsten Start-ups der Welt. 
Foto: phototek/ imago images 

Berlin Stellen Sie sich vor, Sie wollen ein Hotelzimmer buchen. Sie wählen eine Unterkunft aus, geben den Reisezeitraum an und klicken auf Reservieren. Kurz vor der Buchungsbestätigung poppt eine Fehlermeldung auf: „Es tut uns leid, aber wir können Ihren Reservierungswunsch leider nicht berücksichtigen. Versuchen Sie es später noch einmal.“ Die Gründe, warum gerade Sie ausgeschlossen worden, nennt das Unternehmen nicht. 

Aber es gibt natürlich einen Grund. Der Zimmervermittler Airbnb hat ein Patent auf ein KI-System angemeldet, das Kunden vor der Buchung einem Online-Screening unterzieht. Wie die englische Zeitung Evening Standard berichtete, soll die Software Internetseiten wie etwa soziale Netzwerke scannen, um daraus Verhaltens- und Persönlichkeitsmerkmale abzuleiten. Auf dieser Grundlage soll dann ein Vertrauenswürdigkeitsscore errechnet werden, eine Art soziale Bonität, die Auskunft darüber gibt, ob der Gast rechtschaffen ist.

Social Media Scoring in China

Das Vorhaben: Die Regierung in China versucht, durch die Vergabe von Punkten für – aus Sicht der herrschenden Kommunistischen Partei – wünschenswertes Verhalten, die Kontrolle über die Bevölkerung zu erreichen.
Das Verhalten: Das soziale und politische Benehmen von Privatpersonen, Unternehmen und anderen Organisationen wird analysiert. Wer ein zu niedriges Punkte-Level erreicht, muss mit Einschränkungen im alltäglichen Leben rechnen.
Die Vergabe: Integriert werden staatliche und private Datenbanken auf nationaler und regionaler Ebene. Es fließen zur Berechnung Daten zur finanziellen Bonität, zum Strafregister und zu weiteren als relevant erfassten Verhaltensweisen ein.

Wer zum Beispiel mit Fake-Accounts in Verbindung steht oder auf Hassplattformen unterwegs ist, bekommt möglicherweise Punktabzüge und wird mit dem Hinweis „Versuchen Sie es später noch einmal“ vertröstet. Die Plattform will sich damit absichern und die Versicherungssumme in Schadensfällen niedrig halten. Immer wieder gab es in der Vergangenheit Berichte über Vandalismus und Sexorgien in Airbnb-Wohnungen. Mal wurden Möbel aus dem Fenster geworfen oder Wohnungen verwüstet. Die Vermieter fühlen sich von Airbnb häufig im Stich gelassen.

Mit einer Online-Recherche, so die Idee, könnte man Vandalen und Partylöwen bereits im Vorfeld ausfindig machen. Zwar betonte Airbnb auf eine Anfrage des Spiegel, dass das Tool nicht genutzt werde. Der Konzern melde regelmäßig Patente an, was aber nicht bedeute, dass diese auch umgesetzt werden. Doch schon heute führt der Zimmervermittler eine Risikobewertung sowie Background-Checks seiner Gäste durch.

Künstliche Intelligenz soll soziale Bonität erstellen

„Wir nutzen Vorhersagemethoden und maschinelles Lernen, um auf der Stelle Hunderte von Signalen auszuwerten, die uns dabei helfen, verdächtige Aktivitäten zu erkennen und zu unterbinden, noch bevor sie eintreten“, heißt es auf der Webseite von Airbnb. Und weiter: „Wir führen weltweit bei allen Gastgebern und Gästen einen Abgleich mit Behörden-, Terroristen- und Sanktionslisten durch – auch wenn natürlich kein Überwachungssystem perfekt ist.“

In den USA gibt es Hunderte geheimer Scores. Sie entscheiden zum Beispiel, wie lange man in der Warteschleife einer Telefonhotline verbleibt und ob man Artikel in einem Geschäft umtauschen kann. Das Wall Street Journal enthüllte, dass zahlreiche Unternehmen, darunter Instacart, Yelp und Airbnb, auf einen Vertrauenswürdigkeitsscore zurückgreifen, um die Bonität ihrer Kunden zu bewerten. Der „Sift Score“, der sich aus über 16 000 Signalen errechnet und einen Wert von 0 bis 100 erreicht, soll beispielsweise Kreditkartenbetrug verhindern.

Kleinste Verhaltensänderungen wie ein Browserwechsel können den Wert beeinflussen. Jeder Klick wird von Big-Data-Algorithmen ausgewertet. Dieses Bonus- und Malus-System ist vom Sozialkreditsystem in China nicht mehr weit entfernt. Auch Airlines beurteilen dem Bericht zufolge ihre Passagiere. Häufige Beschwerden können sich negativ auf den Wert auswirken. Denn: Das Beschwerdemanagement kostet Geld.

Fehlende Transparenz problematisch

Wer dagegen nie die Kundenhotline anruft, wird in der Warteschleife priorisiert und erhöht seine Chancen auf ein Upgrade in die Businessclass. Es sind subtile Bevorzugungen und Benachteiligungen, die rechtlich noch nicht die Schwelle zur Diskriminierung überschreiten und sich in der Praxis kaum beweisen lassen. Das Unternehmen kann sich immer noch darauf berufen, dass die Priorisierung reiner Zufall sei.

Das Problem: Die Scores wie auch die Bewertungskriterien werden dem Kunden nicht transparent gemacht. So beschleicht einen das Gefühl, dass Unternehmen immer irgendetwas gegen einen in der Hand haben könnten. Längst interessieren sich auch Behörden für Internetaktivitäten. Touristen, die in die USA einreisen wollen, müssen seit Juni vergangenen Jahres bei der Visumbeantragung ihre Social-Media-Accounts, E-Mail-Adressen und Mobilnummern der vergangenen fünf Jahre angeben.

US-Grenzschutzbeamte dürfen bei der Einreise an Flughäfen anlasslos elektronische Geräte wie Laptops oder Handys nach persönlichen Daten durchsuchen. Die Zahl dieser Durchsuchungen hat sich seit 2015 vervierfacht. Bei all dem zeigt sich, dass man doch aufpassen sollte, was man im Netz von sich preisgibt. Denn niemand weiß, wie persönliche Kommentare oder Fotos bewertet werden.