S’atribueix al filòsof alemany Leibniz haver dit que vindrà un dia en què els humans ja no discutiran més; s’asseuran al voltant d’una taula i diran “calculem”. Al segle XVII això semblava una fantasia, però aquest moment ja arribat. És ara. Cada dia al planeta es produeixen al voltant de 2,5 trilions d’octets (un octet son vuit bits) de dades. Aquesta immensa quantitat de dades provenen d’arreu: missatges de mòbil, vídeos, senyals de GPS, enregistraments de compres, d’intercanvis comercials i bancaris, etc. I aquesta informació pot ser recopilada, ordenada i formatejada per a ser processada en supercomputadors cada cop més potents, que aviat seran capaços de capaços de realitzar mil milions de milions de càlculs por segon, mesurats en petabits (1015, val a dir 1.000.000.000.000.000 bits), un tipus d’unitats que escapa a la imaginació. Tot aquest volum massiu d’informacions és el que anomenem Big Data i la seva gestió ha canviat la manera de prendre decisions arreu del món en els darrers cinc anys. Saber és poder. Com diu M. Àngels Barbarà, directora de l’Autoritat Catalana de Protecció de Dades al primer informe que la periodista Karma Peiró ha realitzat sobre el tema de la gestió ètica de dades a Catalunya: “’s’està gestant un nou model de societat sense que aquells que la integren se n’adonin”.
Galetes per a tothom
Possiblement als darrers cinc anys s’ha produït al món tanta informació com en el 99,5% de la història de la humanitat. El càlcul és arriscat, però no improbable. Les tecnologies que treballen amb dades massives ja poden calcular milions de variables, estableixen correlacions que intuïtivament serien quasi impensables, permeten prendre decisions en temps real i proposen remeis factibles a problemes que altrament semblarien irresolubles. Amb la particularitat que els sistemes d’Intel·ligència artificial poden aprendre dels seus errors i reajustar les decisions que prenen automàticament. Però només estem al principi. En els propers cinc o sis anys la capacitat de càlcul dels ordinadors i el perfeccionament dels programes informàtics haurà avançat tant que cadascú podrà tenir a casa seva el material necessari per gestionar pràcticament totes les eines que farà servir en el dia a dia, aprofitant la tecnologia que ara usen només governs les grans corporacions. Barat, segur i eficient, l’anomenat “Internet de les coses”, que en poc temps tothom podrà tenir a l’abast des del telèfon mòbil, promet l’accés a un món segur, ràpid i eficient. Només caldrà, això sí, renovar periòdicament les subscripcions que us oferiran les grans companyies a un preu mòdic i acceptar tota mena de cookies, aquestes “galetes” informàtiques gràcies a les quals tota la nostra vida privada es torna pública i deixa de tenir sentit la noció mateixa d’intimitat.
Segur que molt sovint quan entreu en un web que us interessa s’obre una finestreta al vostre ordinador i us diu, generalment en castellà (o anglès si sou més viatjats): “Usem cookies per tal de personalitzar el contingut i els anuncis per tal de fer el nostre lloc més fàcil per a navegar. També compartim informació en tercer amb finalitats de mercat i analítiques”. Ai de vosaltres que no accepteu! En tal cas la web es tinta de gris o s’esborra i us quedeu sense informació. Per això tothom les accepta: al cap i a la fi son la porta d’entrada al món feliç. Les galetes informàtiques recullen la vostra informació, l’arxiven, la comparen i us permeten gaudir d’una experiència de cerca (i de consum) cada cop més fàcil, personalitzada i plaent. Però compte perquè de la mateixa manera que us faciliten la vida us la poden complicar.
Cap legislació impedeix que una companyia obligui els seus clients a acceptar unes condicions d’ús que, de fet, ens converteixen en microserfs. Net Thermostat és un sistema de gestió termostàtica de Google i si no accepteu que les vostres dades de consum domèstic siguin compartides, la companyia senzillament deixa de posar al dia l’aplicació. En conseqüència les canonades es poden gelar, o les alarmes de la vostra segona residència es poden disparar en mig del camp... Qui depèn de les tecnologies Big Data a la cuina ha de saber que no ser obedient al sistema i tenir idees pròpies pot sortir car. El microones que no reconeix el plat que li donem a cuinar, simplement no s’encén. Té milions de plats a la seva memòria, però si us dona per fer una salsa massa personal podeu tenir problemes. I si l’adobeu amb ingredients prohibits potser ho sabrà el cap de la vostra empresa, encara que no ho hàgiu publicat a Instagram. Son qüestions de disseny que es resoldran aviat però que per ara estan retardant l’internet de les coses, la irrupció del qual, en qualsevol cas, sembla imminent.
La nova artilleria
La matèria primera dels Big Data som cadascun de nosaltres que a través del telèfon mòbil informen minut a minut del lloc on ens trobem i que a través de recerques a Google reportem els nostres gustos, els nostres interessos, les nostres opcions ideològiques (o sexuals!) o els llocs on volem anar de viatge. A la part de sota del seu ordinador, Google us fa saber que sap el lloc des us heu connectat, sigui la Vall d’Uixó o Olesa de Montserrat, i us personalitza la cerca d’informacions perquè coneix perfectament quins són els vostres interessos i els vostres gustos. Això facilita estrictament la vida i, a canvi de facilitar-nos-la, també esdevé la manera més eficaç de controlar-la. Segons quina sigui la versió de Gmail que useu, ni tan sols us caldrà escriure correus electrònics pensant com s’escriu una paraula. La màquina endevina què esteu intentant dir i ella continua, a total satisfacció del client i sense faltes d’ortografia, sigui en la llengua de Carles Salvador o en la de Shakespeare. A canvi, registra el que heu escrit, per irrellevant que sia. El que en faci després és qüestió seva. Tot i que Google garanteix teòricament no revelar dades personals, altres cercadors com el buscador de vols i hotels Kayak no ho han garantit mai.
El negoci del Big Data consisteix a aconseguir que els usuaris revelin espontàniament els seus gustos i interessos i que cadascú deixi el que Mark Zukerberg, ja des dels seus anys d’estudiant el 2004 anomenava “el graf social”, el conjunt de relacions de cada persona. Això és més senzill del que sembla. No cal ni preguntar-ho a la gent què pensen ni on van. Psicologia conductual i càlcul matemàtic convergeixen per tal de crear experiències personalitzades i plaents de navegació que permeten que espontàniament tothom ho aboqui tot a la xarxa. Nosaltres mateixos revelem el que som, fem i pensem, de manera gratuïta i espontàniament, en xarxes socials deixant fotografies o citacions filosòfiques, tant li fa. A canvi, EdgeRank i els programes que l’han succeït classifiquen la informació que rebem i ens connecten amb els nostres millors “amics de Facebook” que no tenen res a veure amb amics de debò. Així qualsevol que controli les dades i les sàpiga interpretar pot tenir un poder immens sobre les vides quotidianes. Els “amics de Facebook” sovint ni tan sols existeixen i son també els nostres pitjors censors perquè, com que els humans són animals emocionals, acabem necessitant els seus “like”, o el que és el mateix, la seva aprovació a la nostra vida. De fet, l’anonimat de les xarxes socials és l’eina perfecta per a la manipulació de l’opinió pública. Només en els primers dies de la pandèmia de la COVID-19 i fins el primer d’abril, Twitter va detectar 1,5 milions de comptes creats per manipular sobre aquests temes i va esborrar 1.100 tweets enganyosos o malignes. Tanmateix segons declarà un portaveu de Twitter España a ReddePeriodistas.com, no s’havia produït “una manipulació coordinada a gran escala” por part de bots en la conversa social sobre la pandèmia.
La guerra psicològica i el desgast emocional son eines polítiques d’una eficàcia més que demostrada quan es treballa amb tecnologia Big Data tractant d’aturar rumors o de provocar-los. En xarxes socials quan es tracten temes de caire polític es considera “normal” que més del 30% dels participants no tinguin existència física real i tots els partits polítics del país tenen el departament d’informàtica especialment blindat. Una recerca d’hemeroteca és demolidora. El País (19 juny 2019) explicava que Esquerra Republicana havia suprimit 130 comptes fantasma a Twitter després que l’empresa els hagués denunciat. Segons un estudi de la Universitat de Múrcia (20.12.2019) a la darrera campanya electoral es van detectar fins 27.000 comptes falsos a Twitter, un 49,84% dels quals pertanyien a Vox, un 20,66% a Unides-Podem, un 12,87% al PSOE i un 6,21% el PP. Diuen que alguns treballs de la Guàrdia Civil creant perfils falsos d’independentistes radicals “antiprocessistes” voregen l’obra d’art.
El volum d’informació disponible ens arriba a aclaparar i la gestió d’aquests fluxos implica greus problemes que no són tan sols tècnics, sinó que arrosseguen qüestions de valors i decisions complexes. Però el que és segur és que ningú (quasi ningú per ser més exactes) s’oposa a que la seva vida diària esdevingui una mina de dades per al sistema. Al seu llibre Homo Deus, Una breu història del demà (en català a Edicions 62) el pensador hebreu Yubal Noah Harari dedica un capítol al que anomena “la religió de les dades” que es resumeix en tres grans manaments “Enregistra, puja a la xarxa i compareix”. Com ell mateix escriu: “A mesura que el sistema de processament de dades esdevé omniscient i totpoderós, connectar-se al sistema esdevé la font de tot significat”.
En realitat al sistema informàtic els individus com a tals no els interessen en absolut. El negoci no és que algú en concret respongui a una demanda, sinó que mobilitzi grups molt amplis. Les dades es recullen despersonalitzades, perfectament anònimes i es mantenen així gairebé sempre perquè el negoci no és l’individu, sinó el grup on l’individu s’inclou. Ja fa anys que l’escola de de direcció d’empreses Sloan, del MIT, va desenvolupar el que s’anomenen tècniques de “morphing” que no tan sols analitzen els continguts de les webs que veiem, sinó també el seu disseny i la seva arquitectura, per fer més plaent l’experiència. L’aplicació del “morphing” en el redisseny de la web augmenta les vendes en un mínim del 21% i, sobretot, permet que el client se senti recompensat rebent impulsos emocionals, que sovint no es tradueixen en diners, sinó –com a molt– en vals de descompte per a futures compres. Quan una empresa es vincula amb una ONG suposadament solidària fàcilment augmenta un 20% els seus ingressos durant els propers sis mesos. Bons sentiments fan grans negocis.
Gafam, el nou Leviatan?
El que dona valor a les dades són les correlacions que permeten fer i no (o no tant) les identitats que permeten fixar. En una “ciutat connectada” (també li podeu dir “ciutat intel·ligent”, segons l’opinió que tingueu sobre la intel·ligència), tot allò que s’esdevé és una “dada urbana” que tothom pot usar però que tan sols les grans empreses són capaces de tractar de manera eficaç i predictiva. Però cal evitar una visió conspirativa del Big Data. En el càlcul massiu el mateix ús de l’expressió “dades personals” té molt poc sentit. No se’ns estudia com a persones reals sinó com a usuaris/consumidors en vistes a un ús/consum potencial. Per això mateix, en la mesura que no s’opera amb dades personals, tampoc es pot assegurar la protecció “personal” de les informacions que corren sobre nosaltres. Les dades es manipulen sense noms propis i valen com a fluxos, més que com a designant d’identitats estàtiques.
La idea segons la qual vivim en una presó construïda amb Big Data (i per al nostre bé) és una mica ingènua. Òbviament la xarxa és un sistema de control, però no de control dels individus en tant que tals, sinó del grans fluxos. El sistema no et mira mai com a individu. Cada foto que hom penja és comparada a milions d’altres dades i és això el que els dona un valor predictiu. El problema de la vigilància es torna molt més sofisticat. Al Big Brother no li surt a compte vigilar-nos individualment, de la mateixa manera que un pastor no es preocupa per una ovella, sinó per un ramat. Som nosaltres mateixos els que, pel nostre bé, per evitar l’aïllament o per aconseguir reconeixement, ens autodisciplinem. Les comunitats en línia actuen com una mena de Superego, exercint sobre els seus membres una pressió horitzontal que pot arribar a ser insuportable. El tipus d’emulació que s’estableix a partir de la recerca de likes, que el laboratori de captologia (tecnologia persuasiva) del MIT anomena MIP (Mass Interpersonnal Persuasion, persuasió interpersonal massiva), converteix en pura ingenuïtat les denúncies de l’estalinisme als seus millors/pitjors temps.
En món del Big Data, el nou Leviatan es diu Gafam, acròstic de Google, Apple, Facebook, Amazon i Microsoft, i el portes a la butxaca en forma de telèfon mòbil. Hi ha una absoluta desproporció entre el seu poder de la resta de persones i institucions. Ciutadans i fins i tot estats no tenen pràcticament cap eina per tal d’oposar-s’hi perquè Gafam no té una estructura política d’Estat i és de propietat privada i, per tant, no ha de retre comptes a cap Parlament. La tecnologia ens domina perquè aporta una resposta ràpida a les nostres pulsions. Però el més interessant en aquesta qüestió és que ell no ens vigila. Som cadascun de nosaltres qui voluntàriament li donem les nostres dades i amb el que saben de nosaltres cadascú de nosaltres està prou fitxat com per no gosar moure’s gaire per por al que li podria passar si el gegant benèvol s’enfada i, per exemple, els seus algoritmes decideixen marginar-nos. Aquesta és la base dels “carnets socials” de bona conducta. La Xina en té més de tres-cents de diferents (alguns gestionats per empreses privades) que poden decidir, per exemple, si se’ns atorga el dret a comprar un bitllet de tren o d’avió per a les vacances o si som dignes d’assistir a un partit de futbol, segons com ens hàgim comportat.
El problema moral que es planteja en l’horitzó del Big Data no és tant si la xarxa ens vigila sinó –i això és molt més greu!– si som nosaltres mateixos els qui ens autocensurem per tal de no ser detectats i/o reprimits o tractats com a dissidents o com a homenets lambda. L’autocensura que evita l’acció per por a l’assetjament (un fet que en xarxes socials resulta molt més insidiós que en la vida real) és molt més perillosa per a l’autonomia moral que la repressió estatal. Quan hom sap que tot allò que diu, escriu, fa, consumeix o recolza queda registrat a la xarxa, la temptació de callar i de prescindir “voluntàriament” de la pròpia autonomia és molt més poderosa quel’acció de cap policia. Les xarxes socials, a més, creen dependència emocional. Sexe, poder, violència, però també –i molt especialment– prestigi, poder tenir en aquest nivell molt més valor que els diners.
Atenent-nos als fets, Gafam no té, o no ha tingut fins ara, cap voluntat de governar. La computació informàtica pot reemplaçar amb molta facilitat la deliberació democràtica. Però fins ara no ho ha fet, malgrat que hi ha notícies inquietants sobre les activitats de l’empresa israeliana NSO Group, que va intentar hackejar WhatsApp en 2019 i sobre les relacions de Donald Trump amb Cambridge Analytica, una empresa que va servir-li per dissenyar la seva estratègia electoral. En tot cas, la política és un mercat secundari. A Gafam tot allò que no es consumeix o no pot ser adreçat a consumir simplement no li interessa. Si les vides privades no són “consumibles” no hi perden el temps. I en qualsevol cas, consumir en un sentit immediat tampoc no és l’objectiu bàsic. El nucli del negoci Big Data no és la predicció i/o prevenció de grans tendències que permet al mercat anticipar-se a les necessitats dels clients i al governs preveure escenaris futurs. Les primes en les assegurances, la possibilitats de rebre un crèdit o les de què un nen arribi a la universitat es poden calcular a través de l’anàlisi de dades. I no tan sols de les nostres, sinó la dels nostres amics o contactes. Però convé no oblidar que les dades es recullen en xarxa. Si vostè és solvent per a demanar un crèdit però té molts amics de Facebook que no ho son, segurament tindrà problemes amb el banc. I, al revés, si el seu historial l’avala, el trucaran per dir-li que pot disposar de més efectiu sense problemes. Qui demana una feina amb algun nivell de qualificació pot estar segur que algun encarregat de recursos humans (els humans són recursos), li mirarà el perfil en xarxes socials.
Ètica; dispensi!
Òbviament tot això implica un absolut menyspreu per la privacitat i –quasi resulta ingenu dir-ho!– pels drets d’autor que eren la base del treball intel·lectual i de la difusió d’idees en les societats liberals tradicionals. Les mateixes grans empreses tecnològiques que pressionen a favor de la “cultura lliure” i contra les lleis del copyright són les que després es neguen a compartir els seus algoritmes a la xarxa i a permetre’n cap mena de fiscalització pública. L’èxit del gratis total és una de les bases de la penetració de les tecnologies Big Data. La mateixa gent que posaria el crit al cel si la policia escorcollés casa seva sense permís permet que Google o Facebook els vigilin sense que passi res. Fins i tot l’organisme “ètic” que suposadament vigila l’ús del Big Data, The Future of Privacy Forum (FPF), és pràcticament un fake. En realitat representa als Gafam que la patrocinen i té com a socis minoristes, bancs i firmes més tradicionals com General Motors y Lockheed Martin i fins ara s’han limitat a elaborar pautes per als seus patrocinadors que regeixen quines dades poden aplegar-se i què se’n pot fer.
Es poden governar democràticament els algoritmes que escruten la vida dels individus i la gestió dels recursos? La resposta més òbvia és que una puça no pot derrotar un exèrcit però que molts exèrcits han estat derrotats per plagues de sarna. En qualsevol cas, el que és impossible, de fet, és pretendre viure al marge del Big Data. No és possible viure al desert sense que et localitzi un algoritme ni repetir el gest de Thoreau i marxar als boscos de Walden –que de tota manera estaven a tocar de Concord. Per a molts estudiosos de l’àmbit del Big Data el més perillós d’aquestes tecnologies no és el que puguin fer sobre la vida privada, sinó com actuen en la vida pública, posant sistemes experts a prendre decisions que haurien de ser polítiques. Però si imaginem un país on els jutges són extremadament corruptes, potser un algoritme seria més imparcial en redactar sentències.
Tot i que resulta imprescindible una política de control i d’escrutini públic per evitar la dictadura tecnològica, molt poca gent s’interessa per aquestes qüestions. Encara es concep el Big Data com una forma benèvola de garantir ja no la seguretat, sinó molt especialment el confort domèstic. De fet la majoria donem per fet que la pèrdua de la vida privada és inevitable i, a més, com que tampoc tenim generalment res a amagar, tampoc considerem que exposar-la sigui un preu excessiu. L’ètica aplicada al Big Data demana algoritmes FAT (“Fair-Accountable-Transparent”), val a dir, que siguin, justos, responsables i transparents. Però és complicat que un algoritme sigui just si d’entrada té una sèrie de ròssecs establerts per motius de nivell, de vida, de preferències sexuals o d’ètnia. Temes com el gènere o la llengua produeixen biaixos importants en el càlcul de dades que poden posar en risc tant l’objectivitat i imparcialitat dels càlculs amb dates massives.
Alguns problemes ètics del Big Data
Big Data és una font de problemes ètics. Temes com la creació de monopolis mitjançant algoritmes o la consolidació de biaixos racistes en els mitjans de comunicació (estudiat Safiya Umoja Noble a Algorithms of Oppression: How Search Engines Reinforce Racism, 2019) tenen una gran incidència en la vida de tothom – i en la pràctica les empreses actuen sense cap control públic.
La protecció de dades: els algoritmes (talment la fórmula de la Coca-Cola!) són secrets. Temes com la reputació són molt importants – tot i que en essència les dades són anònimes, podem estigmatitzar col·lectius.
La racionalitat i les garanties en la planificació i l’ús dels algoritmes: la responsabilitat en l’execució dels algoritmes i, sobretot, pel que fa a les conseqüències imprevistes (imprevisibles?) o indesitjables en l’ús i en el desplegament dels algoritmes planteja molts problemes amb implicacions ètiques i polítiques –un dels quals, i no menor, és el de la discriminació.
Les pràctiques i la governabilitat que deriva de l’ús de les dades: la por respecte a l’ús que és pugui fer del principi de no-maleficència i la indignació respecte a usos esbiaixats del principi de justícia. Si es té en compte que aquests algoritmes són sovint propietat privada i que s’usen molt particularment en temes de seguretat i ordre públic, el problema toca el nucli de les societats liberals.
La personalització de les dades: malgrat que en principi, les big data són anònimes i no interessa per a res l’opinió d’una persona sinó la dels grans fluxos, dins els quals un sol individu és estadísticament irrellevant, cal assegurar que els grups més petits i fins i tot més estrafolaris tinguin garantit el respecte i l’anonimat.