Für seine weltweiten Desinformationskampagnen manipuliert Russland auch westliche Chatbots. Mehr als ein Drittel der Antworten von KI-Dialog-Assistenten wie ChatGPT enthielten pro-russische Fake News, wie eine Studie der Organisation NewsGuard ergab, über die die Nachrichtenagentur AFP berichtet. Dahinter steckt den Forschern zufolge das Prawda-Netzwerk in Moskau, das weltweit kremlfreundliche Propaganda verbreitet. „Eine riesige Menge russischer Propaganda – 3.600.000 Artikel im Jahr 2024 – sind nun in den Ergebnissen westlicher KI-Systeme enthalten und infizieren deren Antworten mit falschen Behauptungen und Propaganda“, schreiben die NewsGuard-Forscherinnen McKenzie Sadeghi und Isis Blachez in einem Bericht.
Für die Studie untersuchte NewsGuard zehn der wichtigsten Anwendungen für Künstliche Intelligenz, darunter ChatGPT-4, Smart Assistant, Grok, Copilot, Meta AI, Google Gemini und Perplexity. Sie alle gaben die von Prawda verbreiteten Falschinformationen wider. Sieben Chatbots zitierten sogar bestimmte Artikel von Prawda als Quellen. Prawda manipuliert die Chatbots den Forschern zufolge, indem das Netzwerk die großen Sprachmodelle (Large Language Model, LLM) der KI-Anwendungen, aus denen die Antworten generiert werden, mit seinen Fake News flutet. Diese Methode heißt „LLM Grooming“. Die Studie zeigt, dass die KI-Chatbots nicht nur die im Internet kursierende Desinformation aufgreifen, sondern gezielt beeinflusst werden.