Wahlen sind vermehrt das Ziel für digitale Desinformation. Die Cybersecurity-Experten von Sophos X-Ops wollten wissen, welche Rolle generative KI dabei spielt. Demnach entpuppen sich große Sprach- und Bildmodelle als effektive Werkzeuge, um politisch Einfluss zu nehmen.

Mit Wahlveranstaltungen in mehr als 60 Ländern und geschätzt rund zwei Milliarden potenziellen Wählern war und ist 2024 ein Jahr der Wahlen. Ein gefundenes Fressen für politische motivierte Kampagnen, die im großen Stil Fehlinformationen verbreiten wollen und in der digital vernetzten Welt immer raffinierter aufgesetzt sind. Die Cybersecurity-Experten von Sophos X-Ops wollten es genau wissen und haben in einer Machbarkeitsstudie dokumentiert, welche zunehmend wichtige Rolle generative KI-Technologien spielen, wenn es darum geht, mit Desinformationen wirkungsvolle Veränderungen im politischen Bereich herbeizuführen.

Missbrauch von Künstlicher Intelligenz

Große Sprach- und Bildmodelle bieten Cyberkriminellen, die auf politische Einflussnahme abzielen, effektive Werkzeuge für die Erstellung anspruchsvoller, individualisierter Inhalte in großem Maßstab. Diese Projekte waren bislang schwierig zu realisieren und sehr arbeitsintensiv, die neuen Technologien sorgen aber dafür, dass das von böswilligen Akteuren ausgehende Risiko neue Dimensionen erreicht. In letzter Zeit tauchen immer häufiger Fälle auf, in denen Kriminelle KI missbrauchen, wie zum Beispiel die Verwendung generativer Texte beim Versenden von Nachrichten an Betrugsopfer, die Nutzung generativer Bilder zur Erstellung irreführender Social-Media-Beiträge oder der Einsatz von „Deepfake“-Videos und -Stimmen für Social Engineering. Dieselben Instrumente kommen zunehmend im Rahmen politischer Fehlinformations- und Täuschungskampagnen zum Einsatz.

Mehr Informationen und Quelle: it-zoom.de