China verstärkt KI-Zensur und beherrscht die „Kunst der Gehirnwäsche“

(SeaPRwire) –   China hat seine Politik der Zensur und Überwachung erneut ausgeweitet und strebt danach, sie unter Kontrolle zu halten, während es gleichzeitig daran arbeitet, die immer weiter wachsende Technologie voranzutreiben.

Die Kommunistische Partei Chinas (KPCh) hat weitere Regulierungsmaßnahmen eingeführt, um sicherzustellen, dass die inländischen Technologieunternehmen die ideologischen Regeln der Partei einhalten.

Alle KI-Unternehmen sind verpflichtet, an einer staatlichen Überprüfung teilzunehmen, bei der die großen Sprachmodelle (LLMs) der Unternehmen analysiert werden, um sicherzustellen, dass sie „die wichtigsten sozialistischen Werte verkörpern“, wie letzte Woche erstmals berichtete.

China arbeitet seit langem daran, Informationen, die über das Internet zugänglich sind, mithilfe seiner „Great Firewall“ zu unterdrücken – die verwendet wurde, um eine Reihe von Dingen zu blockieren, die als schlecht für die KPCh empfunden werden, wie z. B. Informationen über das Massaker auf dem Platz des Himmlischen Friedens 1989 oder Memes, die den chinesischen Präsidenten Xi Jinping mit Winnie Puuh vergleichen.

Diese Firewall wird auf den KI-Bereich ausgeweitet, während dennoch die Inhalte regelt, die sie erstellt.

Die chinesische Cyberspace Administration of China (CAC) verlangt nun von KI-Unternehmen wie ByteDance, Moonshot und 01.AI, an einem Überprüfungsprozess teilzunehmen, bei dem analysiert wird, wie effektiv ihre Programme die LLMs zensieren, die sie entwickeln.

Chatbot-Systeme werden entwickelt, um nicht nur sensible Schlüsselwörter zu erfassen, sondern auch Informationen zu Fragen zu blockieren, die sich auf verbotene Themen beziehen, oft in Verbindung mit Anfragen zu Menschenrechten.

Die KI-Systeme geben wiederum Antworten wie „Versuchen Sie es mit einer anderen Frage“ oder „Ich habe noch nicht gelernt, diese Frage zu beantworten. Ich werde weiter lernen, um Ihnen besser dienen zu können.“ aus.

Um zu verhindern, dass die Chatbots zu viele Fragen blockieren, schreiben die CAC-Richtlinien vor, dass LLMs laut einem Bericht der Financial Times nicht mehr als 5 % aller Fragen ablehnen sollten.

Stattdessen wurden pauschale Antworten erstellt, die als politisch korrekt gelten, um bestimmte Arten von Fragen zu beantworten, obwohl die Kontrolle über die Antworten von LLMs für Entwickler eine schwierige Aufgabe ist.

Chinas anhaltender Versuch, die Narrative innerhalb der eigenen Bevölkerung zu kontrollieren, deutet auf eine größere Bedrohung hin, sagte der KI-Experte Arthur Herman, Senior Fellow und Direktor der Quantum Alliance Initiative am Hudson Institute, gegenüber Digital.

„Das ist die Zukunft, die China für seine eigenen Bürger vorgesehen hat“, sagte Herman. „So sehen sie auch… wie sie die Welt anderer kontrollieren können.“

Herman wies auf Chinas zunehmende Beziehung zum globalen Süden hin, wo Social-Media-Plattformen wie WeChat an Popularität gewonnen haben.

„Es wird unweigerlich eine soziale Kontrolle, eine Gedankenkontrolle geben, die in diese Programme einfließt… und eine Welt zu gestalten, die immer mehr so aussieht, wie China es sich wünscht“, sagte er.

Herman warnte auch davor, dass diese Strategien in autoritären Nationen, aber auch überall dort, wo die Plattformen zugänglich sind, einschließlich der USA, eingesetzt werden.

„Sie haben die Kunst der Gehirnwäsche durch TikTok gemeistert“, sagte Herman. „Chinesische Ingenieure haben einen Weg gefunden, eine Social-Media-Plattform zu schaffen, die hochgradig süchtig macht und die auch stark darauf ausgerichtet ist, ihre Nutzer zu einer bestimmten Sichtweise der Welt zu manipulieren und auf visuelle und akustische Signale auf eine bestimmte Weise zu reagieren.“

Herman sagte, Chinas Einsatz von TikTok-Technologien sei nur ein „Vorgeschmack“ darauf, wie Peking KI-Anwendungen einsetzen kann, um Bevölkerungen jenseits seiner Grenzen zu manipulieren.

„China sieht KI als Mittel an, um die Denkweise der Menschen zu verändern“, sagte er. „Die Fähigkeit der KI, diese Arten der Gehirnwäsche und Gedankenkontrolle zu verbessern, ist so mächtig… dass selbst wenn man nicht tatsächlich unter einer Überwachungskamera steht, selbst wenn man nicht tatsächlich staatlich inspirierte Propaganda hört oder sieht… gibt es andere subtilere Wege, auf denen der eigene Geist verändert und angepasst wird, einfach durch die Interaktion mit Dingen, die im täglichen Leben passieren – die immer mehr davon bestimmt werden, wie die Kommunistische Partei möchte, dass man die Welt sieht.“