Repassem amb la investigadora Sara Suárez-Gonzalo, experta en tecnologia de dades, els efectes de la tecnologia en els drets fonamentals, les llibertats bàsiques i, en definitiva, els sistemes democràtics.

En els últims anys, tant acadèmics, polítics, ONG o la ciutadania en general s’han interessat cada vegada més en analitzar des d’una perspectiva més crítica quins són els riscos de la tecnologia, però també com aprofitar-ne el seu potencial. Parlem amb la doctora en Comunicació Sara Suárez-Gonzalo, premiada amb la Beca Postdoctoral Irla 2021-2022, per reflexionar sobre les implicacions socials i polítiques de la Intel·ligència Artificial (IA) i, en particular, sobre com afecta a la democràcia l’ús cada cop més generalitzat d’aquestes tecnologies de processament de dades per part d’actors públics i també privats.

Aprofitant el potencial del big data, que no és altra cosa que la recopilació i anàlisi de gran quantitats de dades, la tecnologia podria arribar a ser un substitut de nosaltres mateixos com a ciutadans?
Des d’una perspectiva democràtica, l’objectiu no ha de ser substituir o reduir la participació de la ciutadania en la presa de decisions polítiques, sinó més aviat al contrari. És cert que vivim en sistemes polítics de democràcia representativa i, també, és cert que hi ha qüestions especialment complexes com ara la gestió d’una pandèmia, en els quals necessitem un coneixement expert que potser tu o jo no tenim i que és essencial per prendre bones decisions. Però no estem parlant de què la ciutadania hagi de prendre en primera persona totes i cadascuna de les decisions polítiques que els hi afectin. Per mi, l’important és analitzar si aquestes decisions que no prenem en primera persona són políticament legítimes i democràtiques, és a dir, si tenim la capacitat o no d’exercir un control sobre aquestes decisions, d’informar-nos, d’entendre-les o, fins i tot, d’exercir una influència significativa en el procés si no ens semblen adequades o justes. El que està passant i em sembla força preocupant és qui defensa que analitzant les nostres dades es podria obtenir un coneixement més precís sobre el que volem o necessitem i com donar resposta a aquestes problemàtiques que podem tenir.

En quin sentit?
Hem de ser molt prudents amb aquests discursos tecnosolucionistes, que plantegen que les tecnologies poden resoldre qualsevol tipus de problema, incloent la presa de decisions polítiques. Però és que en aquest cas hem d’anar més enllà, es tracta de pensar quin tipus de sistema polític volem. Crec que no té sentit i no ens beneficia en cap sentit obrir un bretxa encara més gran entre la ciutadania i la classe política, que és el que defensen aquestes propostes basades en ideals elitistes de la democràcia. Al contrari, hem d’avançar cap a societats on la ciutadania tingui més capacitat d’exercir control, debatre i prendre decisions polítiques, i no menys. Per això, estic a favor de fer servir les dades i els sistemes de processament necessaris si corroborem prèviament que aquestes tecnologies poden ajudar-nos a prendre decisions més justes i acurades, de forma transparent i sota el control ciutadà.

De quina manera aquesta tecnologia pot ser precisament una aliada per contribuir a la participació ciutadana i enfortir així els nostres els sistemes democràtics?
El primer seria desenvolupar o enfortir plataformes cíviques digitals, com el projecte Decidim.Barcelona, que tenen com objectiu fomentar la participació ciutadana directa i a gran escala en la presa de decisions polítiques. Aquest tipus de plataformes o d’altres de participació més informal com les xarxes socials ens permeten intercanviar idees i, en el millor dels casos, debatre-les raonades amb altres persones per arribar a consensos. A banda, hi ha propostes més enfocades en aprofitar el potencial d’allò que s’anomena la intel·ligència col·lectiva, és a dir, ajudar a identificar quins són els problemes i necessitats socials i quines són les propostes per donar-hi solucions conjuntes; o d’altres que busquen treure partit de l’anàlisi de dades per millorar serveis que fem servir en el nostre dia a dia, com pot ser el transport públic o la tria de tractaments mèdics per curar una malaltia, això per posar alguns exemples.

Sara Suárez: “L’objectiu no ha de ser substituir o reduir la participació de la ciutadania en la presa de decisions polítiques, sinó més aviat al contrari”

Hi ha qui també defensa que el big data pot ser un reforç o, fins i tot, una eina de manipulació política…
Hi ha estudis recents que demostren que totes aquestes dades que compartim, especialment en l’entorn digital, poden revelar característiques molt sensibles de la nostra personalitat com pot ser l’orientació política, sexual, religiosa, o bé, si tenim una intenció clara d’exercir el nostre vot cap a una determinada direcció o si ens trobem indecises. Jo dic que soc força escèptica i que ens hem de prendre amb prudències les conclusions que podem extreure d’aquest anàlisi de dades per la simple raó que el comportament humà no és una ciència exacta. Ho dic perquè aquestes tècniques que poden ser molt útils quan es tracta de predir o analitzar conductes socials genèriques en massa, ja han demostrat que són força imprecises i problemàtiques quan es tracta d’utilitzar-les per predir comportaments individuals, com si les nostre actituds o interessos estiguin reeixits per una mena de lleis de la física.

A més, no m’agrada massa els discursos que van més enllà i afirmen que el coneixement extret d’aquestes dades pot servir per manipular la ciutadania. Aquesta és una idea que es va popularitzar molt arran de l’escàndol de corrupció de dades de Facebook i Cambridge Analytica durant la campanya electoral de Donald Trump l’any 2016 i en aquest cas el que va passar és que molts van donar per bona la teoria que la victòria del partit conservador va ser fruit d’una mena de superpoder dels analistes de dades i d’una gran feblesa per part de l’electorat. És clar que les campanyes de microtarget polític en favor d’un determinat candidat poden tenir una influència sobre les persones al crear missatges més persuasius, però atorgar-li un èxit electoral, és massa dir. Crec que a més de ser una explicació simplista i que idealitza les possibilitats d’aquesta tecnologia, no ajuda a combatre l’auge dels moviments d’extrema dreta si aquest és l’objectiu.

Una altre sector que també fa ús de les nostres dades són les grans empreses privades. Per a fins només econòmics, o també polítics?
És cert que aquestes empreses tenen en molts casos moltes més dades sobre nosaltres i en treuen molt més profit que les institucions públiques. De fet, part de la meva recerca se centra en analitzar com ens afecta el model de negoci de les grans corporacions tecnològiques que tots coneixem com Google o Meta (FB), que bàsicament consisteix en extreure valor econòmic de les dades. Més que en la compra i venda de dades, el seu enriquiment, de fet, es basa en fer servir les dades que nosaltres compartim mentre utilitzem els seus productes i serveis per millorar aquests serveis que ens ofereixen o bé per generar nous productes o serveis personalitzats, com ara, la publicitat personalitzada. La qüestió és que segons la regulació actual, si l’usuari dona el seu consentiment al que aquestes empreses en diuen “polítiques de privacitat”, aleshores allò que l’empresa vulgui fer amb les nostres dades queda, en gran mesura, legitimat. I això, en una relació desigual, és molt problemàtic, ja que si per a fer servir un producte o servei has d’acceptar les condicions que aquestes empreses t’imposen unilateralment, llavors que una persona doni el seu consentiment a aquestes normes, no significa que hi estigui d’acord ni que ho faci lliurament, potser només significa que ho ha de fer per poder usar el producte o servei. Per tant, crec que la idea és força senzilla: cal regular millor aquesta relació perquè la part més forta, les empreses, no puguin imposar les seves normes del joc a la part més feble, els ciutadans, sota la suposada legitimitat que dona tenir el nostre consentiment.

A més, estarem d’acord en què aquestes empreses no responen només a fins estrictament econòmics, en molts casos les seves accions tenen una bestreta clarament política, com ara imposar les seves normes i interessos a l’hora d’establir unes polítiques públiques concretes. El seu poder, de fet, està moltes vegades per sobre de les institucions públiques i democràtiques, que no ho tenen fàcil per posar-los fre. Per això, cal respostes el més ambicioses i el més globals possibles, atenent a les necessitats locals per descomptat, però respostes que es tradueixin en solucions per a totes les persones afectades, que tot i que poden ser de països diferents, s’enfronten al mateix tipus de problemes: l’afectació dels seus drets fonamentals, la pèrdua de llibertats bàsiques, la incapacitat per actuar contra aquestes grans empreses…

Amb la normativa actual, aquestes pràctiques empresarials no ens acaben desposseint de les nostres dades i, per tant, perdem el control sobre elles?
El que està passant avui suposa per la ciutadania, però també per les institucions públiques, una clara pèrdua del control sobre les nostres dades i les tecnologies de processament de dades i desenvolupament tecnològic associat que usen aquestes empreses. Per tant, potser no faria servir el verb “desposseir” perquè això implica entendre les dades com una possessió, quan en realitat no són de ningú, ni nostra, ni de qui recopila les dades, ni de qui les analitza. Tampoc crec que sigui una bona perspectiva entendre les dades com a objecte de contraprestacions, em sembla que això pot portar a derives molt perilloses per a la protecció dels nostres drets fonamentals. Entendre aquesta relació ens ajudarà precisament a fer millors regulacions i polítiques públiques.

Sara Suárez: “Les empreses tenen més dades sobre nosaltres, i en treuen molt més profit que les institucions públiques”

Per  assegurar un bon ús d’aquesta tecnologia, apuntaves que ens cal una regulació més global. De fet, la UE va en aquest sentit i proposa una regulació conjunta als seus membres. Però, és viable quan entren en joc tants interessos públics i privats diferents?
Això és una pregunta força complicada, però crec que és una bona notícia que tinguem una UE que s’estigui preocupant per aquestes qüestions i estigui intentant regular-les perquè no es produeixin aquestes desigualtats tan fortes. Crec que la regulació que tenim ara mateix és insuficient en diversos sentits i s’hauria de centrar molt més en minimitzar aquesta desigualtat de poder entre aquestes empreses que, a més, operen de forma transfronterera i que minimitzen molt el poder de les nostres institucions públiques i de les nostres capacitats com a ciutadanes per enfrontar-nos-hi.

I si ho mirem des de l’altre punt de vista, és possible democratitzar les tecnologies digitals en favor de la ciutadania?
Sí, i crec que és el que hem de fer. Hem d’impulsar mecanismes que ens permetin democratitzar les tecnologies en favor de la ciutadania, i a les institucions els toca donar-hi suport en aquest sentit, garantint els recursos i els mitjans per poder fer-ho. I això implica també fomentar la participació ciutadana tant en el desenvolupament tecnològic com en el desenvolupament de la regulació i de les polítiques públiques. Per exemple, si posem per cas un algoritme que està implementat en una institució pública per distribuir millor els recursos, caldria involucrar les comunitats afectades i preguntar a les persones què en pensen del tema, com creuen que es pot fer aquest canvi d’introduir una tecnologia en un determinat procés. Perquè funcioni, cal que el seu desenvolupament i la seva introducció social es faci de manera transparent, donant a la gent la capacitat d’influir en els processos si així ho volen. Hem de tenir, en general, eines i recursos per exercir els nostres drets i poder participar en el disseny d’una tecnologia que ja forma part indispensable de la nostra societat actual i futura.