La Generalitat ha anunciat aquest divendres la signatura d’un controvertit conveni amb el govern espanyol adreçat a “monitorar els discursos d’odi a les xarxes socials”. L’acord, subscrit pel president Salvador Illa i la ministra espanyola d’Inclusió Seguretat Social i Migracions, Elma Saiz, incorpora Catalunya a la plataforma estatal ALERTODIO i permetrà desplegar una eina pròpia de detecció de continguts considerats discriminatoris.
Durant l’acte celebrat al Palau de Pedralbes, Illa ha definit les xarxes com a “centrifugadores de la intolerància” i ha assegurat que cal “evitar que l’odi campi a plaer”. Saiz, per la seva banda, advertia que el racisme i la xenofòbia amplificats en línia “posen en risc la convivència democràtica”. Segons dades del ministeri, en només un mes s’hauria assignat l’etiqueta de “discurs d’odi” a unes 53.000 publicacions, de les quals s’haurien retirat un 42%.
El conveni inclou formació per al personal tècnic, un reforç del sistema de denúncies i l’elaboració d’informes per a identificar patrons de risc. Sobre el paper, l’objectiu és actuar contra continguts il·legals i protegir col·lectius vulnerables. Tanmateix, la iniciativa no està exempta d’interrogants i recels. En aquest sentit, podria veure’s desdibuixada la necessària frontera entre la persecució contra continguts il·legals i un possible control excessiu de l’esfera digital.
Tot i que el Govern subratlla que el monitoratge té un objectiu purament garantista, el fet que l’executiu disposi d’eines automatitzades o d’intel·ligència artificial per a rastrejar converses o publicacions en temps real desperta una inquietud legítima, especialment quan els criteris que defineixen conceptes com ara “odi”, “desinformació” o “continguts nocius” no sempre són inequívocs o compartits per la majoria de la població.
En un context polític de polarització i marcat a casa nostra pels resultats del darrer baròmetre del CEO, nombrosos usuaris de xarxes socials han reaccionat a l’anunci d’aquest acord amb mostres de suspicàcia. La major part de les crítiques assenyalen que aquest nou sistema podria esdevenir un mecanisme de pressió, filtratge o fins i tot censura de veus i opinions incòmodes.
Una tendència polèmica que prové d’Europa
El moviment del govern català coincideix amb una tendència europea que avança ràpidament cap a models de control de continguts més intervencionistes. La Llei de Serveis Digitals (DSA), aprovada per la UE, obliga el conjunt dels estats membres a designar, abans de finals del 2025, els denominats “denunciants de confiança”: organismes acreditats per a reportar continguts il·legals amb prioritat i que, en la pràctica, poden influir de manera notable en quins missatges circulen i quins perden visibilitat.
Alemanya, Àustria, França i, més recentment, Bèlgica ja han nomenat les seves organitzacions que assumiran aquesta funció. Si bé en alguns casos són institucions públiques; en altres es tracta d’ONG amb perfils ideològics concrets. Aquest mandat, que pot operar de manera supranacional, pretén reforçar la seguretat digital, però també planteja seriosos dubtes sobre el pes que aquestes entitats poden tenir en l’ecosistema informatiu d’altres països.
Els efectes d’aquest nou model comencen s’han pogut mesurar recentment: segons Brussel·les, en només un trimestre s’ha actuat contra 29 milions de continguts arreu de la Unió Europea. Una xifra que revela l’elevada capacitat de control sobre el discurs en línia de què disposa.
Alhora, diversos analistes adverteixen de l’impacte que podria suposar l’ús abusiu de la coneguda com a “censura algorítmica”. Això vol dir que la intervenció no sempre comporta la supressió de la publicació, sinó que pot limitar-se a fer-la menys visibles, un mecanisme molt més difícil de detectar i de fiscalitzar.
Els observadors més crítics adverteixen que, amb el pretext de combatre l’odi i la “desinformació”, pot obrir-se la porta a estructures i dinàmiques de control informatiu difícils d’auditar. En aquest context, mitjans petits, opinions minoritàries i discursos dissidents podrien ser expulsats del debat públic sense necessitat que un òrgan jurisdiccional els hagi atribuït cap conducta il·lícita ni una sentència judicial n’hagi prohibit la difusió.
