Feia temps que tenia una mica aparcat l’hàbit de llegir, i L’ètica algorítmica, de Francesc Torralba, ha estat el llibre que m’ha fet reprendre’l. Bona part de la lectura ha transcorregut entre tardes al 365, un cafè a la taula i aquella estona de tranquil·litat que trobo quan hi vaig a llegir o a fer feina. Potser també per això n’he gaudit especialment: m’ha agradat tant el llibre com el fet de tornar a reservar una estona del dia per llegir.
El que més m’ha interessat de l’obra és una pregunta que va molt més enllà dels algoritmes: que una cosa sigui possible, eficient o rendible vol dir necessàriament que sigui correcta?
La tecnologia i les decisions que hi ha al darrere
Vivim en una època en què la tecnologia avança a una velocitat extraordinària. Cada vegada podem automatitzar més processos, analitzar més dades i desenvolupar eines que fins fa ben poc semblaven impensables. Com a persona vinculada al món del software, tot això em desperta molta curiositat. Però també crec que, de vegades, ens entusiasmem tant amb el que som capaços de fer que ens oblidem de preguntar-nos si realment ho hauríem de fer, amb quina finalitat i a costa de què.
Una de les idees que m’enduc del llibre és que la tecnologia no és aliena a les decisions humanes. Darrere d’un algoritme hi ha algú que ha decidit què ha de prioritzar, quines dades ha d’utilitzar i què significa que funcioni «bé». Un sistema pot ser molt eficient a l’hora de retenir la nostra atenció, per exemple, però això no vol dir que passar-hi més hores ens beneficiï.
Assolir un objectiu tècnic no és el mateix que fer una cosa bona.
Quan la rendibilitat passa per davant de tot
Aquesta reflexió m’ha portat inevitablement a pensar en el pes que té el benefici econòmic en moltes decisions actuals. No qüestiono que una empresa vulgui guanyar diners o que la tecnologia hagi de ser útil i viable. El que em preocupa és que, massa sovint, la rendibilitat sembli suficient per justificar-ho tot. Si una decisió genera més ingressos, però perjudica les persones, erosiona la seva privacitat o té un cost ambiental considerable, podem considerar-la un èxit sense més?
I això no passa només en el sector tecnològic. Ho podem traslladar a l’economia, a la política o al medi ambient. Tenim una tendència a mesurar el progrés en termes de creixement, rapidesa i productivitat, mentre que les conseqüències menys immediates queden en segon pla. Potser ens convindria preguntar-nos més sovint per a qui estem progressant i quin preu estem disposats a pagar.
La responsabilitat de qui desenvolupa tecnologia
El llibre també m’ha fet pensar en la responsabilitat que tenim els qui desenvolupem tecnologia. És fàcil centrar-se a aconseguir que un programa funcioni, que sigui ràpid o que resolgui un problema concret. Però una bona solució no hauria de valorar-se només pel seu funcionament. També importa com tracta les dades, si respecta l’usuari, si és accessible i quines conseqüències pot tenir el seu ús. No sempre hi haurà una resposta senzilla, però això no vol dir que hàgim de deixar de fer-nos aquestes preguntes.
He acabat L’ètica algorítmica amb la sensació que el progrés tecnològic necessita anar acompanyat de criteri i responsabilitat. No es tracta de frenar la innovació, sinó d’evitar que la possibilitat de fer alguna cosa es converteixi, per si sola, en el motiu per fer-la.
I, al marge de totes aquestes reflexions, és en definitiva, un llibre molt recomanable, especialment si us interessen la tecnologia, l’ètica i les seves implicacions en la societat.