La intel·ligència artificial (IA) s’ha convertit en una eina potent per a grups d’extrema dreta, que en aprofiten les capacitats per a expandir la seva influència i atacar minories. Mitjançant algorismes de xarxes socials, automatitzen la difusió de discurs d’odi, dirigint contingut racista, misògin o conspiranoic a audiències vulnerables amb una precisió inquietant.
Les eines generatives (com els deepfakes o els chatbots) són utilitzades per a crear propaganda hiperrealista: imatges falses per a deshumanitzar immigrants, audiovisuals manipulats per a negar crims d’odi, o textos massius que imiten llenguatge «orgànic» per a infiltrar-se en debats. A més, la IA permet l’automatització de l’assetjament: bots que ataquen periodistes o activistes amb missatges coordinats, amenaçant la llibertat d’expressió.
El problema s’agreuja perquè els algorismes de plataformes com YouTube, TikTok o X (Twitter) amplifiquen involuntàriament contingut extremista, prioritzant l’enganxament sobre l’ètica. Això crea cambres d’eco que radicalitzen usuaris, mentre que la moderació automatitzada fracassa en detectar llenguatge codificat o símbuls canviants.
Tot i que algunes organitzacions utilitzen IA per a identificar discurs d’odi o desmuntar desinformació, la desproporció de recursos afavoreix els grups extremistes, que operen amb poca supervisió. La regulació és urgent: cal transparència algorísmica, inversió en detecció ètnica i lingüística, i una major responsabilitat de les big tech. La batalla digital contra l’extrema dreta depèn, irònicament, de com utilitzem la IA per a defensar la democràcia.
Héctor Santcovsky