Soziale Bewertung im Zeitalter von Big Data

Seit ein paar Jahren baut China ein zentrales Bewertungssystem auf. Dabei erhalten chinesische Bürgerinnen und Bürger für „gutes” Verhalten Pluspunkte, wobei sich „schlechtes” Verhalten negativ auf den Punktestand auswirken kann. Die technische Grundlage für dieses soziale Bewertungssystem ist bereits von dem privaten Unternehmen Alibaba entwickelt worden, wobei die Nutzung für die Bürgerinnen und Bürger Chinas bisher freiwillig ist. Die chinesische Regierung kann im Falle einer zentralen Einführung aber auf die bestehende Datenbasis des so genannten „Sesame Credit“ zurückgreifen und dieses landesweit verpflichtend machen.

 

Doch wie funktioniert das soziale Bewertungssystem genau?

Nach Angaben von Alibaba setzt sich der „Sesame Score“ aus unterschiedlichen Komponenten zusammen. Diese inkludieren neben dem Zahlungsverhalten (ähnlich zu unserem Schufa-System) das Online- und Social Media-Verhalten. Wenn beispielsweise online zu viele japanische Produkte bestellt werden, kann sich das negativ auf das Punktekonto auswirken.1 Des Weiteren werden persönliche Daten, wie die Adresse oder der Beruf, miteinbezogen. Auch die interpersonellen Beziehungen sind für den Punktestand relevant.So kann beispielsweise der Kontakt mit Regierungskritikern negative Konsequenzen auf die eigene Bewertung haben. Auch wenn das „Sesame Credit System“ bisher noch nicht verpflichtend war, stellt sich die Frage, ob die Punktestände der chinesischen Bürgerinnen und Bürger auch ohne die aktive Nutzung berechnet werden, aber diese lediglich unveröffentlicht bleiben.3 Bei guten Punkteständen erwarten die Nutzerinnen und Nutzer von „Sesame Credit“ für ein Kreditsystem ungewöhnliche Vorteile, wie etwa eine vereinfachte Hotelbuchung oder ein besseres Ranking auf einer der größten chinesischen Dating-Seiten. Wenn der Punktestand zu niedrig ausfällt, kann einem der Kauf von internationalen Flugtickets oder Fahrkarten für den Schnellzug verweigert werden.

Big Data und künstliche Intelligenz als Treiber der Massenbewertung

Um die Verhaltensweisen der Bürgerinnen und Bürger anhand von Punkten bewerten zu können, sollen circa 600 Millionen Kameras in Betrieb gesetzt werden.4 Wer dann in China beispielsweise bei Rot über die Straße gehen will, muss damit rechnen, aufgrund der automatischen Gesichtserkennung in Echtzeit an den öffentlichen Pranger gestellt zu werden. Diese Kombination aus Künstlicher Intelligenz und Big Data wird die orwellsche Überwachungs-Dystopie in China zur Realität machen.

Die Aussicht auf systematische soziale Bewertung klingt für uns hierzulande zunächst absurd, aber wann haben Sie das letzte Mal einen Artikel auf Amazon bestellt, der weniger als drei Sterne hatte? Oder wann haben Sie das letzte Mal eine Unterkunft gebucht, die eine schlechte Bewertung hatte? Auch in der „westlichen Welt“ nutzen wir zahlreiche Bewertungssysteme, die Unmengen an Daten von uns Userinnen und Usern sammeln. Ein bewusster Umgang mit Daten ist daher wichtiger denn je. In den Anwendungen Amazon, Airbnb, eBay und Uber – um nur einige wenige zu nennen – bewerten sich die Nutzerinnen und Nutzer gegenseitig. Mit guten Bewertungen und Punkten erwarten die Nutzerinnen und Nutzer auch hier Vorteile. Bewertungen können darüber entscheiden, ob Userinnen und User in Zukunft wieder die Möglichkeit haben, die Plattform zu nutzen oder nicht. Sie dienen dabei der Orientierung und können helfen, Vertrauen zu generieren. Auch in China wird das zentrale Bewertungssystem dazu verwendet, Vertrauen herzustellen. Viele Chinesinnen und Chinesen vertrauen nur den Mitmenschen, die sie sehr gut kennen, alle anderen Beziehungen betrachten sie mit Argwohn und Angst.

Bewertungen sind heutzutage allgegenwärtig

Wir bewerten uns aber nicht nur auf speziellen Plattformen, die Bewertungen sind allgegenwärtig. Es gibt Rankings von Universitäten, Performance-Messung in der Arbeitswelt, Noten in der Schule oder auch das Messen der täglichen Schrittzahl. Die Digitalisierung bestärkt dabei die gegenseitige Bewertung, so können wir uns jetzt auf den Social-Media-Kanälen mit Likes und Kommentaren permanent Feedback geben.

Während in China das Bewertungssystem ganz offen kommuniziert wird, nutzen wir hier zum Teil unbewusst spielerisch verpackte Bewertungssysteme. Aus gesellschaftlicher Sicht ist sowohl die Einführung des Bewertungssystems in China als auch die allgegenwärtige Bewertungskultur bei uns kritisch zu betrachten. Denn durch die zunehmende Datafizierung der Gesellschaft wird es uns an quantifizierbaren Vergleichsmöglichkeiten auch in Zukunft nicht fehlen.

Umso wichtiger ist es deshalb für uns, die technischen Möglichkeiten zu verstehen und sich in Punkto Cybersicherheit auf dem neusten Stand zu halten. Der verantwortungsvolle Umgang mit persönlichen und sensiblen Daten ist dafür fundamental. Um Ihre Daten und die Daten ihres Unternehmens besser zu schützen, bietet das Lernlabor Cybersicherheit umfangreiche Weiterbildungsangebote zu dieser Thematik an. Im Seminar „Schutz vor Social Engineering: Wie sicher sind meine Daten – und wie sicher ist mein Unternehmen?“ erlernen Sie unter anderem den richtigen Umgang mit Ihren Daten, um einem Social Hacking-Angriff vorzubeugen.

Das Zusammentragen von Daten aus verschiedenen öffentlichen Quellen, wie z.B. den sozialen Netzwerken, ermöglicht zudem eine Ableitung korrelierter personenspezifischer Informationen. Um Ihre Identität im Netz besser schützen zu können, empfehlen wir Ihnen daher das Seminar Open Source Intelligence – Digitale Informationsgewinnung“. In dem Seminar wenden Sie Werkzeuge zur Recherche öffentlicher Informationen an und setzen sich mit der Social Media Analyse auseinander.

 

[1] „Digital Health and the Gamification of Life: How Apps Can Promote a Positive Medicalization“ Maturo, A. & Morreti, V. (2018) Bingley: Emerald Publishing Limited, S. 21

[2] „Dystopia wird Wirklichkeit: Was ist dran an Chinas ,Social Credit System´?“ Warisloher, F. (2015) Netzpolitik.org

[3] „Viele Chinesen haben noch nie von dem System gehört. Im Interview mit Antonia Hmaidi“ Hegemann, L. (2018) Zeit Online

[4] „Überwacht, überall“ Deuber, L. (2019) Süddeutsche Zeitung Online

 


von Luisa Wilczek / 2020

Kommentar schreiben

Deine E-Mail-Adresse wird nicht veröffentlicht.