Geschlossene KI-gesteuerte Fake-News-Fabrik: Chinesisches Unternehmen erstellte täglich 7.000 Artikel
Chinesisches Unternehmen verurteilt: Erstellt Tausende falscher Nachrichtenartikel täglich
Im Rahmen einer jüngsten Kampagne gegen Desinformation wurde ein chinesisches MCN (Multi-Channel Network)-Unternehmen verurteilt, da es schätzungsweise 4.000 bis 7.000 falsche Nachrichtenartikel täglich erstellt hat. Der tatsächliche Controller des Unternehmens, bekannt als Herr Wang, nutzte fortschrittliche KI-Software, um diese falschen Erzählungen zu erstellen. Indem er Schlüsselwörter in KI-Software eintrug, die über Sprachinteraktion verfügt, war Herr Wang in der Lage, automatisch damit zusammenhängende Informationen aus dem Internet zusammenzustellen, Text von einigen hundert bis über tausend Wörtern zu generieren und dies mit scheinbar relevanten, aber völlig erfundenen Bildern zu kombinieren. Diese irreführenden Artikel wurden dann über mehrere Online-Plattformen verbreitet, wodurch das Unternehmen täglich über 10.000 Yuan (ca. 1.400 US-Dollar) verdiente. Nach einer Untersuchung wurde Herr Wang schuldig befunden, Gerüchte zu verbreiten, Tatsachen zu fälschen und die öffentliche Ordnung zu stören. Er wurde daher zu fünf Tagen administrativer Haft verurteilt und das betreffende MCN-Unternehmen wurde angewiesen, seine Tätigkeit einzustellen und die notwendigen Korrekturen vorzunehmen.
Wichtige Erkenntnisse:
- Umfang und Wirkung: Das MCN-Unternehmen erstellte täglich zwischen 4.000 und 7.000 gefälschte Nachrichtenartikel.
- Finanzieller Gewinn: Das Unternehmen verdiente täglich mehr als 10.000 Yuan mit diesen Aktivitäten.
- Rechtliche Konsequenzen: Herr Wang wurde zu fünf Tagen administrativer Haft verurteilt, und das Unternehmen wurde angewiesen, seine Tätigkeit einzustellen und seine Praktiken zu korrigieren.
Analyse:
Der Fall des chinesischen MCN-Unternehmens hebt die wachsende Bedrohung durch AI-gestützte Desinformation hervor. Die Fähigkeit, in großem Umfang überzeugende falsche Inhalte mit minimalem menschlichen Eingriff zu erstellen, stellt eine erhebliche Herausforderung für Regulierungsbehörden und Plattformen dar. Dieser Vorfall spiegelt die anhaltenden Schwierigkeiten mit Desinformation auf unseren beliebten Social-Media-Plattformen wie Twitter und TikTok wider. Auf Twitter verbreitet sich falsche Nachrichten schneller und erreicht ein breiteres Publikum als wahre Informationen, hauptsächlich getrieben durch menschliche Nutzer anstelle von Bots. TikTok, mit seinem rasanten Wachstum und der Art von viralem Inhalt, sieht sich ähnlichen Problemen gegenübergestellt, die durch Bedenken hinsichtlich ausländischen Einflusses verschärft werden.
Trotz Bemühungen der Social-Media-Unternehmen, AI-basierte Erkennung, Faktenprüfungspartnerschaften und Inhaltskennzeichnung zu implementieren, bleibt die Wirksamkeit dieser Maßnahmen begrenzt. Die öffentliche Wahrnehmung spiegelt dies wider, da ein bedeutender Anteil der Nutzer über die Unrichtigkeit der Nachrichten auf diesen Plattformen frustriert ist. Die Komplexität und der Umfang des Online-Diskurses erschweren die Verwaltung, und Experten erwarten, dass sich die Situation verschlimmern wird, bevor sie sich verbessert.
Wussten Sie schon?
- Menschlicher Faktor: Studien zeigen, dass auf Twitter falsche Nachrichten 70% wahrscheinlicher weiterverbreitet werden als wahre Nachrichten, hauptsächlich aufgrund menschlichen Verhaltens statt automatisierter Bots.
- Finanzielle Motivation: Die Nutzung von AI durch das chinesische MCN-Unternehmen zur Erstellung falscher