Rechtsradikale Extremisten nutzen zunehmend Künstliche Intelligenz (KI) zur Verbreitung von Hass und Propaganda. Diese Gruppen, oft in Form von dezentralisierten Netzwerken auf Plattformen wie Telegram, setzen generative KI-Modelle ein, um rassistische und antisemitische Bilder zu erstellen. Darüber hinaus verwenden sie große Sprachmodelle (LLMs) zur Verbreitung von Desinformation und Anleitung zur Herstellung von Sprengsätzen.
Rechtsradikale nutzen KI-generierte Inhalte, um Ideologien zu verbreiten und ihre Anhänger zu radikalisieren. Diese Inhalte reichen von verherrlichenden Darstellungen nationalsozialistischer Symbole bis hin zu Memes, die Gewalt und Rassismus fördern. Beliebte Formate sind unter anderem AI-generierte Memes wie Pepe the Frog und Moon Man, die in extremistischen Kreisen weit verbreitet sind.
Neben der Bildgenerierung wird KI auch zur Beschaffung von Informationen genutzt, die Extremisten bei der Planung von Anschlägen unterstützen. Einige Gruppen entwickeln sogar eigene „unzensierte“ KI-Modelle, um sicherzustellen, dass ihre extremistischen Inhalte nicht durch eingebaute Sicherheitsmechanismen gefiltert werden.
Rechtsradikale Extremisten nutzen auch Deepfake-Technologien, um gefälschte Videos und Audioaufnahmen zu erstellen, die zur Verbreitung von Fehlinformationen und zur Diskreditierung politischer Gegner dienen. Diese Technologien ermöglichen es ihnen, überzeugende und täuschend echte Inhalte zu erzeugen, die Verwirrung stiften und Vertrauen in die Medien untergraben.
Die zunehmende Nutzung von KI durch extremistische Gruppen stellt eine erhebliche Bedrohung dar. Es ist entscheidend, dass Technologieunternehmen und Forschungseinrichtungen proaktiv Maßnahmen ergreifen, um die Verbreitung solcher Inhalte zu überwachen und einzudämmen. Dies umfasst die Entwicklung von internen Bedrohungsbewertungsteams und spezifischen Verfahren zur Bekämpfung von Terrorismus.
Für detailliertere Informationen und Analysen zu diesem Thema besuchen Sie bitte [GNET Research](https://gnet-research.org/2024/02/23/weapons-of-mass-hate-dissemination-the-use-of-artificial-intelligence-by-right-wing-extremists/).
