Cookie Hinweis

Tendenz

Das Magazin der Bayerischen Landeszentrale für neue Medien

Der Grosse Bruder wird Realität
zur Übersicht aller ArtikelAlle Artikel zur Übersicht aller AusgabenAlle Ausgaben

Der Grosse Bruder wird Realität

In China ermöglicht Künstliche Intelligenz nicht nur Innovation und Fortschritt, sondern auch ein sogenanntes Sozialkredit-System. Bürger und Konsumenten werden digital überwacht – angeblich zur Bewertung ihrer Integrität. Kritiker warnen vor einer High-Tech-Diktatur. Droht ein Überwachungsstaat orwellscher Dimension?

Text Finn Mayer-Kuckuk

Hinter dem misstrauischen Blick eines Polizisten steckt in China künftig auch die Macht der Künstlichen Intelligenz. Die Sicherheitsbehörden wollen ihre Beamten in den kommenden Jahren mit digitalen Brillen ausstatten, die ihnen Daten über jeden Bürger in ihrem Gesichtsfeld anzeigen. Nichts bleibt geheim: Nicht nur der Name, auch Alter, Beruf und weitere Details erscheinen virtuell neben den Personen. Gesuchte Verbrecher markiert das System in Rot.

Ab dem Jahr 2020 könnten zu den Profilen noch weitere Daten hinzukommen: die „Sozialbewertungen“, die das Wohlverhalten jedes Bürgers nach den Kriterien des Staats widerspiegeln. China baut auf diese Weise den digitalen Überwachungsstaat: Die Behörden verbinden die Möglichkeiten zuverlässiger Gesichtserkennung mit Datenauswertung, Vernetzung von Informationen und Verhaltensvorhersage – also Techniken, die durch Künstliche Intelligenz möglich werden. „Die Führung erforscht die Entwicklung technikgetriebener Werkzeuge für verbesserte Sozialkontrolle“, sagt China-Forscher Rogier Creemers von der Universität Leiden. „Das Sozialpunktesystem ist hier das Vorzeigeprojekt für die Informatisierung von Verwaltung und Politik.“

Gesichtserkennung per Software

Chinas Regierung setzt bei ihrem Online-Rating-System (citizen score) auf das Können einheimischer Firmen der Privatwirtschaft. Die Software für die Gesichtserkennung der Kameras im öffentlichen Raum stammt beispielsweise von der Pekinger Firma Megvii. Erst 2011 von Studenten gegründet, hat sich das Unternehmen in einem Hochhaus des Technikviertels Zhongguancun auf ein ganzes Stockwerk ausgebreitet. Sein Programm „Face++“ erkennt Gesichter besser als jeder Mensch – selbst auf unscharfen Kamerabildern von Menschenmengen. Die Polizei filtert damit beispielsweise bereits gesuchte Verbrecher am Eingang zu Popkonzerten heraus.

Das Amt für Öffentliche Sicherheit der chinesischen Hauptstadt Peking ist der größte und wichtigste Kunde von Megvii, doch die Firma versorgt auch Abnehmer außerhalb der staatlichen Sphäre. Die Betreiber einiger Büroimmobilien in Peking regeln damit beispielsweise den Gebäudezugang, Chipkarten werden überflüssig. Auch voll automatische Arbeitszeiterfassung sei mit dem System möglich, sagt Xie Yinan, der Vizechef des Unternehmens. Datenschutz? Er sieht es nicht als sein Problem an, wenn die Überwachung eines Tages erdrückend wird. „Um solch grundsätzliche Fragen sollte sich die Regierung kümmern.“

Tatsächlich interessiert sich die Regierung brennend für die neuen Möglichkeiten. Staatschef Xi Jinping hat zu seinem Amtsantritt vor fünf Jahren angekündigt, „die nationalen Sicherheitssysteme zu verbessern und zu stärken“. Es sei Aufgabe der Partei, „der Bandbreite abweichender Meinungen zu widerstehen und sie zu bekämpfen“. Im März 2018 hat seine Regierung dann die Einführung des Sozialpunktesystems offiziell angekündigt. Xi schwebt eine Umerziehung des chinesischen Volkes vor mit dem Ziel, es „ehrlicher zu machen und traditionelle Werte zu stärken“. Experten sehen darin die erste großflächige Anwendung einer radikalen Vision der staatlichen Verhaltenssteuerung. „Die Sozialpunkte bieten ein System der Strafe und Belohnung für alle Bewohner des Landes. Dabei geht es nicht nur um Recht und Gesetz, sondern auch um eine moralische Bewertung“, sagt Creemers.

Sozialpunkte aus dem Daten-Pool

Zu den Informationsquellen gehören Daten von Gerichten, Steuerbehörden, Krankenkassen, Banken, Onlinehändlern, Verkehrsbehörden und sozialen Online-Netzwerken. Hinzu kommen Bewertungen durch Vertragspartner und Kunden. IT-Experten der Regierung arbeiten bereits daran, diese unterschiedlichen Datenbanken mit Schnittstellen erschließbar zu machen und ihren Beitrag für die Sozialpunkte zu gewichten. Als Ergebnis entstehen verschiedene Noten etwa für Kreditwürdigkeit, Lebenswandel oder politische Zuverlässigkeit. Um etwa eine höhere Beamtenstelle zu ergattern, sollen dann beste Zensuren in allen Bereichen erforderlich sein.

Untreue in der Ehe könnte ebenso zu Minuspunkten führen wie Kritik an der Partei in einer Chat-Gruppe, doch derzeit ist eher die Rede von harten Fakten: Wer Steuern hinterzieht, Lebensmittel panscht oder Umweltvorgaben missachtet, muss mit massiven Nachteilen rechnen. Jetzt schon gibt es eine zentrale schwarze Liste für säumige Schuldner und Personen, die Gerichtsbeschlüsse missachtet haben. Sie können keine Flug- und Bahntickets mehr buchen, dürfen keine Luxusgüter online bestellen – und in einigen Städten erscheint eine Warnung auf dem Handy, wenn sie jemanden anrufen.

Datenschutz nur graue Theorie

Das Scoring-System mag für die Betroffenen ärgerlich sein, doch viele andere Bürger finden das überwiegend gut: Gerade junge Chinesen machen die Digitalisierung begeistert mit, posten alle ihre Aktivitäten online oder streamen sie gleich nonstop als Video. Datenschutzbedenken sind in einer Gesellschaft, die vom Kaiserreich in den Kommunismus gefallen ist, ohnehin nur graue Theorie. Während einige Intellektuelle sich ärgern, dass sie ausländische Zeitungen im Internet nur auf Umwegen lesen können, nimmt eine Mehrheit auch die Beschränkungen im Netzzugang kaum wahr. Die meisten Leute wollen vor allem ihre Garnelen-Nudelsuppe via Online-Netzwerk präsentieren – und nicht etwa Grundsatzkritik am System üben. Sie hoffen im Gegenteil auf mehr Fairness in der Gesellschaft, wenn das Sozialpunktesystem die schwarzen Schafe an den Pranger stellt.

Der Obrigkeit gegenüber sind die Chinesen ohnehin machtlos. Auch Verstecken geht jetzt nicht mehr. Die Regierung verfügt dank Ausweispflicht über eine Datenbank mit den Gesichtern von allen 1,3 Milliarden Erwachsenen im Lande. Und die Augen der künstlichen Intelligenz sind allgegenwärtig: Bald sollen 400 Millionen Kameras den öffentlichen Raum beobachten. Die moderne Technik macht damit den Traum aller Diktatoren wahr. Der Staat weiß und sieht alles.


Foto: picture alliance / Andreas Landwehr/dpa
Porträt Finn Meyer-Kuckuk: Kopf & Kragen

Bild Finn Mayer-Kuckuk
Finn Mayer-Kuckuk lebt in Peking und berichtet als Journalist seit zwölf Jahren für eine Reihe von Zeitungen aus Ostasien, u.a. für Handelsblatt, Frankfurter Rundschau und Berliner Zeitung. Er studierte Japanologie, Sinologie und BWL.
zur Übersicht aller AusgabenAlle Ausgaben zur Übersicht aller ArtikelAlle Artikel

Print-Ausgabe

Tendenz als pdf

  • Tendenz 02/18
  • (PDF, 4 MB)

Info

Bildnachweis 2/18