Ètica robòtica al volant

"La velocitat no és qüestió de cavalls al motor, sinó de burros al volant". El Perich, Autopista.

Cap als anys 50's Isaac Asimov va començar a escriure una sèrie de novel·les que tenien per protagonistes els robots i la seva relació amb els humans. Estem parlant de "Jo, robot"i de la Trilogia dels Robots (formada per "Les bòvedes d'acer", "El sol nu" i de "Els robots de l'Alba") essencialment.

Ja se sap que les màquines les carrega el diable; aleshores, per assegurar el benestar dels humans i, desenganyem-nos, per garantir-ne la seva acceptació, caldria estar ben segurs que nosaltres controlem en el fons les accions dels robots i que aquests no maquinarien, mai més ben dit, en contra de nosaltres. Va ser aleshores que Asimov es va treure de la màniga les famoses Tres Lleis de la Robòtica que qualsevol robot duu implantades al més pregon del seu cervell positrònic alimentat per energia atòmica. Què diuen aquestes lleis?

1.            Un robot no pot fer mal a un ésser humà o, per inacció, permetre que un ésser humà prengui mal.

2.            Un robot ha d'obeir les ordres dels éssers humans, excepte si entren en conflicte amb la primera llei.

3.            Un robot ha de protegir la seva pròpia existència en la mesura que aquesta protecció no entri en conflicte amb la primera o la segona llei.

Amb això podem estar ben segurs que aquestes maquinotes treballaran sempre per i només per al nostre benefici. Estem salvats. Sobre aquestes tres premisses hi ha força relats curts i novel·les que s'hi recreen per al gaudi del lector àvid de reptes lògics (si no ja ètics) i de paradoxes...

En aquesta línia de raonament, un dels debats d'un llibre concret rau al voltant de què passa si un ser humà comença a maquinar i treballar en benefici propi, i en detriment de la humanitat? Què passa si un robot és capaç d'entendre aquesta amenaça, no a un ésser humà, si no al conjunt de la humanitat. En aquest cas, Asimov fa que un robot, privilegiat entre els seus semblants, capaç d'entendre la diferència entre humà i humanitat i conscient de la tragèdia que se'ns cau al damunt (literàriament), s'inventi i s'autoimplanti, per damunt de les Tres Lleis de la Robòtica, la Llei Zero:

0. Un robot no pot fer mal a la Humanitat o, per inacció, permetre que la Humanitat prengui cap mal.

La qual li permet by-passar les tres lleis menys precedents... I carregar-se un humà per salvar la humanitat. Pim pam #spoiler.

Deixem la literatura i tornem al mon real, a l'actualitat. Estem en vies d'inventar la "conducció autònoma". O sigui, que un robot condueixi el nostre cotxe, que prengui decisions sobre la ruta, el trajecte, els cops de volant... Que s'anticipi als accidents. I si son inevitables que minimitzi danys. I si també son inevitables, que minimitzi pèrdues de vides... I, es clar, ha sortit el senyor "què fem amb la llei zero?" i ens planteja el dubte existencial: i si per minimitzar pèrdues de vida, el robot al volant decideix que és millor sacrificar la nostra, amos del cotxe, que la de més d'un vianant? O d'un sol vianant però millor persona que nosaltres? O més jove i amb més oportunitats? O més gran i amb més experiència... O el més ric, que ja ha sortit avui un twit catxondo que explica que Mercedes programarà els seus cotxes amb la prioritat de salvar la vida del conductor davant de qualsevol alternativa...

Arribats a aquest punt, jo crec que com a mínim hauríem de debatre dues o tres cosetes... La primera: si Asimov va inventar-se les Tres Lleis per als seus robots, per què no les podem aplicar al cervellet dels nostres assistents de conducció? Així garantim que les màquines treballaran en igualtat de criteris i sempre per al nostre benefici. I ja que parlem de benefici... Com evitem que el benefici primi a la resta de vides humanes? Com garantir que tots els cotxes vetllen per els mateixos valors i no prioritzin a uns o altres en funció del preu del cotxe? Home... Jo crec que tot el sistema de lleis va encaminat a aquest fet. Podràs fiar-te o no del sistema legal/judicial, però aquí el cotxe autònom no afegeix ni treu res a un debat que ja existeix amb les petrolieres, la obsolescència programada o les farmacèutiques de la nostra monja més mediàtica, per citar només un exemple.

La segona: què fem amb la llei Zero? Què passa si el cervell del cotxe, en cas d'incident o accident avalua riscos i escenaris i arriba a la conclusió que el mal menor és la nostra mort?... Ooopss... Sobe el paper és encomiable, pero a nivell més pragmàtic què vol dir, o qui pot decidir que una vida val més que una altra? Dos delinqüents valen mes que un filàntrop? Quants adults val un nen? O a l'inreves? Crec que hi ha molta llana per cardar encara abans de debatre si una màquina pot decidir o no qüestions de tant calat... Dubto que nosaltres mateixos puguem decidir... Imagina't una màquina!

I tercera: crec que seguim pensant com humans. Estem fent prendre decisions a les màquines pensant com humans. Què vol dir que una màquina ha d'avaluar els danys davant un imminent accident? No es més raonable dedicar tots els recursos computacionals a preveure l'accident i a evitar-lo? Segur que és més fàcil que recalentar el cervell positrònic amb debats ètics!

Avaluem les estadístiques (poques) que tenim ara per ara. En tots els accidents  entre cotxes 'humans' i cotxes 'autònoms' el 100% eren deguts a "errors humans" (menteixo, un era degut a un error d'apreciació del robot d'un TESLA  que no va veure un cotxe en un encreuament perquè un llum brillant va provocar errors als càlculs i calibratges del sistema, per tant és un problema de perfeccionament de la tecnologia no de debat ètic). No és més fàcil imaginar un futur on el 100% dels cotxes autònoms circulen sense accidents que en uns robots que perden el temps minimitzant les victimes del proper pinyo?

No se... Aqui ho deixo... #digueu-meingenu pero realment crec que estem més davant d'una oportunitat que d'una amenaça. Me'n refiaria d'un cotxe autònom? Ara crec que és prematur, però un mon on tots els cotxes condueixin sols em sembla més segur que el mon actual amb humans al volant. Recordeu El Perich...

@jignasibonet

Aquest post es va publicar al "Blog de Cultura Digital" el passat 9/11/2016

Supercomputacio i Big Data, son el mateix?

Marenostrum, BSC, Barcelona
"Perhaps is not the most powerful supercomputer, but is, by far, the most beautiful"

Deia Andy Warhol que “al futur, tot el mon serà famós durant quinze minuts; tot el mon hauria de tenir dret a quinze minuts de glòria”. El corol·lari d'aquest teorema vindria a dir que cada dos per tres hi ha una nova etiqueta que es posa de moda. I avui en dia l'etiqueta de moda, el trending tòpic, és “Big Data”. També és usual il·lustrar qualsevol menció al tema amb referències a la supercomputació; però, és realment el mateix? I si no ho és, què les vincula i què les diferencia?

Hi ha problemes fàcils i problemes difícils; això ja ho hem anat aprenent des de primària. Però hi ha problemes que, tot i ser conceptualment fàcils, són inabastables pel volum de dades que cal manipular per resoldre'ls. Calcular el moviment parabòlic d'un projectil, d’un cos sòlid i rígid és fàcil, té una formulació senzilla i coneguda; però calcular el moviment de totes i cada una de les seves molècules, encara que les regeix la mateixa fórmula, ja no ho és. O el moviment de tots els àtoms d'una molècula orgànica súper llarga, com l'ADN; o de tots els estels d'una galàxia; o el flux a través dels carrers de

Barcelona del pol·len de soja que descarregaven fa unes hores al port i que s'escampa deixant un rastre de gent esternudant... això ja no és fàcil. Molts càlculs, i massa llargs.

I ara què fem? Doncs a grans càlculs, supercomputadors. Sabíeu que la predicció metereològica va ser un dels primers reptes de la supercomputació? #spoiler   Les equacions que regeixen el temps atmosfèric son prou conegudes, però la solució no és fàcil d’obtenir, i estar calculant durant 6 hores quin temps farà d'aquí a tres hores... #fail   Per poder abordar aquests problemes, doncs, es van construir els primers ordinadors capaços de fer molts càlculs amb moltes dades en molt poc temps.

A grans trets i sense necessitat d'aprofundir gaire, hi ha dues maneres de fer un supercomputador: un de gran i molt ràpid; o molts de petits treballant col·laborativament en paral·lel. Darrerament aquesta és la tendència en disseny de supercomputadors, ja que assoleix resultats molt millors amb esforços aparentment menors. Afegim-hi les capacitats de les xarxes de telecomunicacions de darrera generació i resulta que avui en dia no cal confinar un superodinador en cap cambra blanca, sinó que el podem tenir distribuït en un edifici... o un campus... o inclús un continent. Però això ja son figues d’una altra panera.

Només per tenir unes quantes dades. El concepte de supercomputació canvia cada pocs anys; si tenim en compte la llei de Moore, segons la qual, cada dos anys som capaços de duplicar el volum de transistors en un xip, és fàcil de suposar que cada dos anys hem de ‘duplicar’ la definició. Diguem que avui en dia un superordinador té capacitat de fer més d’1PF (1 PetaFlop, 1.000 TeraFlop, 1 milió de GigaFlop... digues-li com vulguis... una passada de flops o de càlculs per segon)... i creixent.

Anem pel Big Data. Què volem dir amb Big Data que no ho inclogui el que ja hem dit? El concepte, tot i que també és conegut des de fa temps, ha eclosionat darrerament amb la consolidació de la Internet, en general, i de les smart cities, en particular.

Gartner va definir (2012) Big Data com un “conjunt d’actius d’informació de gran Volum, gran Varietat i que canvien a gran Velocitat que requereix eines innovadores i eficients en temps i cost capaces de processar la informació per millorar-ne la comprensió i la presa de decisions.” 

Segons IBM (2014) el 90% de les dades que hi ha avui en dia al mon s’han generat en els darrers 2 anys... i d’això probablement en té la ‘culpa’ internet. El repte és, d’una banda, saber quantes i quines d’aquestes dades ens son útils, les podem convertir en informació i, de l’altra, com ens poden ajudar a prendre decisions. Decisions per a què? Doncs per a gestionar de forma smart una ciutat, per exemple.

La supercomputació doncs, és una solució, mentre que el Big Data és un problema, però no per això l'un i l'altre tenen un vincle causal. La supercomputació no és la solució, o si més no, no és tota la solució al problema del Big Data, sinó només un dels capítols.

@jignasib

Què són les cookies? Són bones?

Fa uns dies, al blog de cultura digital es parlava dels algorismes i de com ens ajudaven a decidir quins resultats eren els més idonis per a les nostres cerques a Internet. Concretament dèiem que l’algoritme de Google és el conjunt d’instruccions que fa servir el cercador per tal d’oferir els resultats a la nostra cerca amb la intenció d’oferir-nos els que més ens interessin; i això ho aconsegueix gràcies a que sap qui ets i per què té en compte el teu historial de cerques i clics. La teva identitat l’obté quan t’identifiques, i el teu historial el pot saber consultant les cookies que has anat recollint.

O sigui, que les cookies son petites quantitats d’informació que els lloc web depositen en els nostres navegadors amb un objectiu doble: d’una banda emmagatzemar un històric de la nostra activitat a Internet; i de l’altra, recordar la nostra identitat a fi i efecte de facilitar el nostre accés a pàgines freqüents sense necessitat de identificar-nos contínuament. Les cookies van ser un invent de Netscape, a principis dels 90, o sigui, als orígens de l’Internet comercial, per facilitar la navegació dels usuari.

Molt be… aleshores, les galetes, son bones o dolentes? Doncs depèn. De la mateixa manera que la bellesa és als ulls de l’observador, la bondat de les galetes és als objectius de la nostra cerca. Que volem resultats ràpids i acurats (poca informació i molt valuosa)? Les galetes ens ajuden. Que volem navegar de forma anònima, sense que quedi constància de totes les passes que hem seguit per arribar? Aleshores les galetes no ens interessen. És per aquest motiu que els navegadors permeten acceptar-les o no  i esborrar-les de tant en tant.

Un exemple d’ús intel·ligent de les cookies: buscar preus de vols. Si accepteu cookies, quan navegueu entre els diferents operadors i companyies no us caldrà reintroduir els dies en què voleu viatjar ni el destí. Però com més pregunteu, vol dir que esteu més interessats i per tant el preu anirà pujant. Així que abans de comprar, no us oblideu d’esborrar les cookies!!

I un altre dubte que ens pot venir al cap: son segures o no? Aquí cal anar amb compte. Les cookies en si són inòqües; són dades, no codi, i per tant per elles mateixes no poden fer res. No contenen ordres, no ens poden atacar, ni esborrar el disc, ni robar informació, ni generar els molestos popups publicitaris. Però també és cert que algú podria voler consultar la nostra navegació sense el nostre permís, ens podria robar les galetes. I això és molt greu? Essencialment és un atac a la nostra privacitat, tot i que, anant més enllà, permetria també a tercers usuaris identificar-se amb les nostres credencials per visitar, no anònimament si no amb el nostre nom, webs on tenim accés.

A Europa, gelosos com som de la nostra privacitat, va haver intents de prohibir les cookies per eliminar aquest risc. Tot i així, la indústria va alertar d’un perill més gran: sent com son d’útils per a la navegació, prohibir-les causaria dos efectes perniciosos. El primer, faria més farragosa la navegació als usuaris europeus; i per tant provocaria la fugida de webs a d’altres països on no tingués efecte aquesta prohibició. Finalment, cap allà el 2011 es va optar per una opció ben europea: el consentiment previ, és a dir, l’usuari ha d’acceptar que el lloc web li dipositi una cookie. Ja des del 2013 existeix un reial decret que recull aquesta normativa europea, i és per això que ara totes les planes web que visitem ens informen que cal acceptar la política de cookies.

I recordeu: qui no sap per on navega, no sap a quin port arriba…

@jignasib

Aquest post es va publicar originalment al "Blog de cultura digital" el 20/05/2015.