Aquí podeu veure el vídeo de la xerrada
Les màquines són molt eficaces processant de forma rapidíssima dades estables, però no tenen, a hores d’ara, la capacitat de gestionar eficaçment la incertesa, atès que actualment no ens és possible codificar tot allò que sigui imprevisible o inesperable.
Per què estem deixant a les seves mans la presa de decisions d’alt impacte social?
La recomanació d’una pel·lícula o d’una ruta de carretera depenen de la configuració de determinats algoritmes; la concessió d’un crèdit, d’una ajuda social o la conveniència d’una intervenció mèdica que ens pugui salvar la vida, també.
La concessió d’un bo social elèctric, l’assignació del grau de risc d’una dona víctima de violència masclista o la d’un tercer grau penitenciari són decisions amb un altíssim impacte social, raó per la qual no poden deixar-les només en mans de rutines de càlcul.
No podem carregar les culpes a l’algoritme, que és una eina útil i convenient. La responsabilitat rau en l’àmbit en què el volem utilitzar o en com el configurem: quines dades alimenten l’algoritme, quin biaix orienta les decisions i quines conseqüències té l’adopció d’aquestes decisions no són assumptes irrellevants.
Quan la tecnologia és percebuda com un mecanisme neutre i pretesament infal·lible, per tant, inapel·lable el seu ús, estem permetent que la tecnologia experimenti una evolució sense control, quasi sagrada, com no li ho permetem a cap altre dels àmbits de coneixement o d’activitat que tinguin impacte en la nostra salut o els nostres drets. Cal que totes les garanties ètiques i sobre els drets que s’apliquen a qualsevol dels àmbits que tenen impacte sobre la nostra vida, s’apliquin també a l’àmbit tecnològic.
Tenim una tasca: defensar al món “on line” tot allò que hem après a defensar en el món real, o els drets que hem conquerit corren el risc de desaparèixer.
Sobre totes aquestes qüestions ens va parlar Gemma Galdón, analista de polítiques públiques especialitzada en la vigilància, l’impacte social, legal i ètic de la tecnologia, en el nostre darrer sopar-debat.
Aquí podeu veure el vídeo de la xerrada.