Un dos primeiros ámbitos que destacou Carlos Varela foi o da liberdade de expresión, alertando do papel das redes sociais na difusión do discurso de odio e da desinformación. Varela reclamou unha maior responsabilidade das grandes plataformas dixitais, que “deberían estar obrigadas a códigos éticos que regulen os seus contidos”, lembrando que o Regulamento europeo de Servizos Dixitais (DSA), en vigor desde febreiro de 2024, establece obrigas para plataformas con máis de 45 millóns de usuarios, incluídas sancións de ata o 6% da facturación.

Outro dos puntos centrais da súa intervención foi o uso de sistemas biométricos con IA que, advertiu, poden derivar en “clara vulneración de dereitos fundamentais”. Neste sentido, lembrou o caso do programa COMPAS, empregado nos EUA no ámbito policial e xudicial, que amosou nesgos raciais contra a poboación afroamericana. Tamén se referiu ao programa VioGén, utilizado en España para predicir riscos en casos de violencia de xénero, cualificándoo como un “sistema de caixa negra” no que non sempre son claros os criterios de decisión.

Varela insistiu no perigo que supón a utilización da IA para a manipulación política e electoral, lembrando casos como o Brexit, as eleccións de Donald Trump ou o escándalo de Cambridge Analytica, que vulnerou a privacidade de 80 millóns de persoas. Segundo explicou, estas técnicas baséanse na microsegmentación e no astroturfing, que permiten orientar mensaxes personalizadas a partir dos medos e preferencias dos usuarios. Citou como exemplo o recente éxito da candidatura “Se acabó la fiesta” nas eleccións europeas, que obtivo tres eurodeputados grazas a estratexias intensivas de segmentación dixital.

O exfiscal tamén fixo referencia ao uso da IA no ámbito do cambio climático, denunciando como determinados líderes políticos negacionistas, como Donald Trump, empregan estas tecnoloxías para difundir mensaxes que xeran confusión social. Aludiu ademais a países como China, onde a IA se aplica como instrumento de control masivo da poboación.
“A quen lle interesa isto? Aos estados autocráticos, porque a IA é unha ferramenta perfecta para controlar a cidadanía”, subliñou. Neste contexto, defendeu o papel de Europa como espazo de resistencia, cun marco normativo que garante dereitos e permite debater e recorrer decisións ante os tribunais: “Ter unha normativa que ampare é unha garantía para os cidadáns”, concluíu.

O ciclo "Pensarmos"
A Sección de Pensamento do Consello da Cultura Galega puxo a andar o ciclo "Pensarmos" en xaneiro de 2019 co obxectivo de abordar os problemas da actualidade. Por este foro pasaron xa máis dunha vintena de conferenciantes como, por exemplo, María Dolors Comas, Margot Rot, Eva Veiga, Victoria Quintero ou Mar García Puig por citar só algúns dos máis recentes. Todas as intervencións están gravadas e, salvo desexo expreso dos autores, pódense consultar tanto desde o sitio web institucional como dende a nosa canle de YouTube.