Roboetika (robotikaren etika)


Gaztetan zientzia-fikziozko liburu asko irakurri nituen, eta asko gustatzen zitzaidan genero hori. Hala ere, genero horren barruan, beti izan ditut gogokoago gizarte-gaiei buruzko espekulazioa ardatz duten liburuak (zientzia-fikzio soziala) alderdi zientifikoari garrantzi handiagoa ematen diotenak baino.

Gaur egun, oso ezagunak dira Isaac Asimov-ek, “Fundazioa Trilogia” ospetsuaren egileak, ezarri zituen robotikaren hiru legeak , baita beren bizitzan gaiari buruzko liburu bat irakurri ez duten pertsonentzat ere. Adibidez, 2004ko “Ni, Robota” zientzia-fikzio distopikoko filmean agertzen dira; Will Smith da filmaren protagonista, eta idazle berak 1950ean argitaratu zuen izenburu bereko liburuan oinarrituta dago. Oroigarri gisa, hona hemen hiru legeak:

  1. Robotak ez dio kalterik egingo gizakiari, edo, zerbait ez egiteagatik, ez du utziko gizaki batek kaltea jasaterik.
  2. Robotak gizakiek emandako aginduak bete behar ditu, lehen legearekin gatazkan daudenak izan ezik.
  3. Robotak bere existentzia babestu behar du, babes hori lehen edo bigarren legearekin gatazkan ez dagoen heinean

Eta nork ez du gogoratzen “2001: Espazioko odisea” (2001: A Space Odyssey) filmeko Hal kezkagarri hura!.

Ez nuen imajinatzen, ordea, eta esango nuke zuek, gaia gustuko duzuenok ere, ezetz, eleberriek edo film batzuek planteatzen ziguten etorkizun hura hain azkar iritsiko zenik.

Horregatik guztiagatik, “Robotetika. Adostasun berriak gizakiaren eta robotaren arteko harremanean” izeneko hitzaldi batera joan nintzen; hizlariak Carme Torres, Robotika eta Informatika Industrialeko Institutuan Pertzepzio eta Manipulazio Taldeko ikerketa-burua, eta Eduard Fosch, eLaw-Center for Law and Digital Technologies-Leiden Universityko (Herbehereak) ikertzailea ziren.

Hitzaldi hartan esan zuten ez gaudela behar adina prestaturik etortzekoa den horretarako. Orain arte, makinek programatuta zeukatena bakarrik egiten zuten, baina orain beren kabuz pentsatzen dute, eta programatuta ez dituzten gauzak ere egiten dituzte.

Carme Torresek azaldu zuen berak alderdi teknologiko eta zientifikoa ezagutzen duela. Teknologia digitalak gure bizitzan sartu direla eta gu moldatzen ari direla esan zigun. Eta zer gizarte-eredu utzi gura dugun planteatu beharko genukeela, honek guztionek ondorio sozial eta etikoak izango ditu-eta. Horregatik, duela urte batzuk Roboetika sortu zen, teknologiak industrian eta gizartean izango dituen ondorio positiboak eta negatiboak aztertzeko. Baina oso zaila da balio duten printzipioak ezartzea. Kontuan izan behar da eragina duela industrian, lan-merkatuan, merkatu digitalean, eta esperientziatik ikasten duten eta gure ordez erabakiak hartzen dituzten makinak direla. Horregatik guztiagatik, oso garrantzitsua da araudi bat egitea eta estandar etiko batzuk ezartzea. Europako Parlamentua (aurrerantzean, E.P.) jada kezkatu duen gaia da eta robotikari eta adimen artifizialari buruzko Proposamen bat egin du.

Eduard Fosch-en iritziz, berriz, Adimen Artifizialari buruzko eztabaida bere aplikazio praktikoetatik urrun egiten da batzuetan. Zenbaitetan gobernua alde batetik doa eta industria bestetik. Arauturiko estandar asko daude, baina batzuetan ez da ondoriorik aurreikusten betetzen ez badira, eta ez dira lotesleak. Parlamentuaren proposamenak ez du argitzen zelan aplikatzen diren araudiak. Eta batzuetan legerian aurreikusi gabeko gauzekin topo egiten du teknologiak.

2018ko martxoan, Uber-en probako ibilgailu autonomo batek txirrindulari bat harrapatu zuen, talka egin baino 1,2 segundo lehenago detektatu zuelako bizikleta, eta ez programatuta zegoen bezala 4 segundo lehenago. Eta ibilgailua urrunetik kontrolatu behar zuen gizakia distraituta zegoen, eta beste segundo bat beranduago ibili zen hura geldiarazteko. Nor edo nortzuk dira erantzuleak? Uber, programa diseinatu duen ingeniaria, urruneko gidaria? Zenbateraino edo zertan bakoitza? Honelako kasuetan, erantzukizuna nork hartu behar duen ere planteatzen da. Egungo ordenamendu juridikoan robotak ezin dira erantzuletzat jo. Bestalde, robotak erabaki autonomoak har baditzake, ohiko arauek ez dute balio erantzukizun juridikoa sortzeko.

E.P.k adierazi du irtenbide bat nahitaezko aseguru bat ezartzea izango litzatekeela, dagoeneko aplikatzen den moduan, adibidez, automobilen kasuan. Robotentzako aseguru-sistema horrek kontuan izan beharko lituzke katean egon litezkeen erantzukizun guztiak. Aseguru-estaldurarik ez dagoenean kalteak konpontzea bermatuko duen funts batekin osa liteke sistema hori.

Carme Torresek behin eta berriz esan zuen ez garela muntaketa-kateetako robotez ari, pertsonekin lan egiten duten robotez baizik, eta seguruak direla bermatu behar dugula, eta zelanbaiteko Giza Eskubide digitalak sortu behar ote liratekeen ere planteatu zuen.

Bestalde, E.P.k planteatzen du orientazio etikoen esparrua, besteak beste, Europar Batasuneko Oinarrizko Eskubideen Gutunean, giza duintasunean, berdintasunean, justizian, baimen informatuan, datuen babesean eta Batasuneko Zuzenbideari dagozkion beste printzipio eta balio batzuetan oinarritu behar dela. Horrez gain, beste hauek ere proposatzen ditu: robotikako ingeniarientzako jokabide-kode etikoa, ikerketako etika-batzordeentzako kode deontologikoa, diseinatzaileentzako baimena eta erabiltzaileentzako baimena.

Eduard Foschek pentsatzen zuen etorkizunean testamentu digitalak egongo direla; izan ere, egiten ez badira, zer gertatzen da hildako guztien datuekin? Eta arazoa da, Bruselak hainbeste denbora behar duenez legeak egiteko, egiten duenean berandu izaten dela.

Bien arabera, beste arazo bat datuen analisiarekin sortzen da. Milioika datu aztertzen dituzten programek, aplikatzeko moduaren arabera, bereizkeriak eragin ditzakete. Adibidez, AEBetako presoen berrerortzea aztertzen bada, beltzak, edo gutxiengoak, diskriminatuta egon litezke.

2018an, Amazonek enplegua bilatzeko tresna esperimental bat aurkeztu zuen, lanpostu bakoitzerako bost profil garrantzitsuenak hautatzen zituena, Adimen artifizialaren laguntzaz. Giza Baliabideetako taldeei laguntzea eta talentuaren bilaketa mekanizatzea zen helburua. Baina baztertu egin behar izan zuten, emakumeen aurkako joera zuelako. Zergatik? Bada, Amazonen Big Data algoritmoa elikatu zuen curriculum-bilduman gehiengoa gizonezkoen profilak zirelako.

Hori saihesteko modu bat, haren iritziz, datuak oso zabalak izatea litzateke, ez daitezen generikoegiak izan, baizik eta populazio-talde guztiak biltzen dituena. Baina horrek talka egin dezake datuak eman edo ez sortzen zaigun zalantzarekin, kezka eragiten baitigu zelan erabiliko ote dituzten. Beharbada, pertsona anonimo bihurtuko duten algoritmoak egitea izango da konponbidea, batez ere osasun-arloan.

Ez hori bakarrik, E.P.k uste du beharrezkoa dela babes edo zaintzak sartzea, prozesu horiek kontrolatu eta egiaztatzeko aukera izatea pertsonek, baita iturburu-kodera eta elkarri eragiten dioten robot autonomoen sarrera-datuetara eta eraikuntza-xehetasunetara iristea ere, beharrezkotzat jotzen denean. Are gehiago, uste du robotek “kutxa beltz” moduko bat izan beharko luketela, makinak egindako eragiketa guztien datuak erregistratuko dituena, erabakiak formulatzera eraman duten urrats logikoak barne, hala badagokio.

Biek uste dute garrantzitsua dela robot industrialak eta robotika soziala bereiztea, honek ingurunearekiko eta pertsonekiko duen interakzio-gaitasunagatik. Azken hori win-win aukera bat izan daiteke (estrategia honen helburua alderdi guztiak onuradun izatea da), pazienteak zaintzeko erabiltzen denean, autonomia handiagoa hartzen dute-eta; baina, bestalde, ez dute harremanik izaten zainketa horietaz arduratzen ziren pertsonekin, eta bakardadea areagotu egin daiteke. Hemen ere E.P.k kezka adierazten du robotak giza gaitasunak osatzera bideratu beharko liratekeelako, eta ez haiek ordezkatzera. Eta gizakien eta roboten arteko lotura emozionalen garapenean arreta jartzeko eskatzen du, bereziki talde ahuletan, hala nola haurren, zaharren edo ezgaitasunen bat dutenen taldeetan.

Bakardadearen arazoa jada ematen da gure gizartean, gero eta konektatuago egon arren jendeak gero eta bakardade handiagoa sentitzen baitu. Gogora ekarri zuten HER filma, non protagonistak, gizon bakarti batek, harreman berezia ezartzen baitu sistema eragile berri batekin: erabiltzailearen beharrizan guztiak asetzeko diseinatuta dago, Samantha du izena, eta emakumezko ahots xarmangarria du. Azkenean, ikusten dugu guri berdingabea iruditzen zaigun harreman hori, eta protagonistarentzat hala dena, sistemak beste ehunka pertsonarekin duen bera dela.

Arreta berezia merezi duen gaia da robotika giza gorputzean erabiltzea ebakuntza eta errehabilitaziorako; izan ere, robot medikoak eta, bereziki, sistema ziberfisikoak (SCF) giza gorputzean eraman edo ezar daitezke. Horregatik, E.P.ren iritziz, robotikari buruzko etika-batzordeak sortu beharko lirateke, premiazko izaeraz, ospitaleetan eta beste osasun-erakunde batzuetan. Halaber, bizi-aplikazio medikoen esparruan, hala nola robot-protesietan, softwarearen mantentze-lana, hobekuntza eta eguneratzeak bermatu beharko lirateke.

Azkenik, Europako Parlamentuak bere dokumentuan robot adimenduna zer den planteatzen du, eta uste du Europan definizio bateratu bat ezarri behar dela honako ezaugarri hauek kontuan izanda:

  • autonomia lortzeko gaitasuna sentsoreen bidez eta/edo beren ingurunearekin datuak trukatuz (interkonektibitatea) eta datu horiek aztertuz;
  • esperientziaren eta interakzioaren bidez ikasteko gaitasuna;
  • robotaren euskarri fisikoaren forma;
  • bere portaera eta ekintzak ingurunera egokitzeko gaitasuna.

Eta uste du robot aurreratuak erregistratzeko sistema orokor bat sortu beharko litzatekeela Batasunaren merkatu bateratuaren barruan, roboten azpikategoria espezifikoetarako egokia den kasuetan. Erregistro-sistema nahiz erregistroa bera Batasuneko agentzia batek kudeatu ahal izango lituzke, sortzea erabakitzen bada.

Hona hemen gaiari buruzko esteka batzuk, artikulua egiteko erabili ditudanak.

B.C.

Utzi iruzkina

Zure e-posta helbidea ez da argitaratuko. Beharrezko eremuak * markatuta daude