Etika Adimen Artifizialean, alborapenak eta horien eragina

01/07/2020 29

Adimen Artifiziala (AA) aldaketa erradikala eragiten ari da gure munduan. Horretaz jabetzen ez bagara ere, gure inguruan hainbat aplikazio daude teknologia mota horrekin bizimodua errazago egiteko, eta joera horrek, zalantzarik gabe, gora egingo du datozen urteetan.

AAren garapen esponentzial eta gogotsu horrekin batera, ez ditugu alde batera utzi behar haren ustiapenaren alderdi etikoak eta, zehazki, etorkizuneko aplikazio horien parte izan daitezkeen alborapenak.

Baina, zer dira alborapenak? Gure egunerokoan erabaki asko hartzen ditugu, edaten dugun garagardo marka, gidatzen dugun autoa, ikusten ditugun filmak, aukeratzen ditugun liburuak… eta gehienetan, jakin gabe, erabaki horiek alboratuta daude.

RAEren hiztegian “alborapena” ren definizioa kontsultatzen badugu, honela definitzen du: “Akats sistematikoa egin daiteke laginketak edo saiakuntzak egitean erantzun batzuk beste batzuen aurrean hautatzen direnean”.

Pertsonen kasuan, gure burmuinak aukeratzen digu erantzuna, eta gehienetan gure esperientzian, hezkuntzan edo sinesmenetan oinarritzen da, pentsamendu lerratu horren erantzuleak baitira.

Zer gertatzen da erabakiak makinek hartzen dituztenean?

Teknologiaren aurrerapenekin, Big Dataren eta batez ere Adimen Artifizialaren sorrerarekin, gero eta gehiago, algoritmo horiek hartzen dituzte erabakiak. Hauteskunde horiek hutsalak izan daitezke, lehen aipatutakoak bezalakoak, baina askoz ere maizago hasten dira sistema adimendunak zehazten ea lan baterako kontratatuko nauten, kreditu bat emango didaten edo kreditu-txartel baten muga zabalduko didaten.

Gure egunerokoan erabaki asko hartzen ditugu, eta gehienetan, jakin gabe, erabaki horiek alboratuta daude.

AAren barruan, ikaskuntza automatikoan edo Machine Learningean ager daitezke joera horiek, informazio historikoan oinarritzen baitira. Ikaskuntza honi dagokionez, alborapenak prozesu honen hainbat zatitan ager daitezke, eta ez soilik datuetan, pentsatzekoa denez.

Lehenik eta behin, konpondu nahi dugun negozio-arazoa definitu eta zehaztu behar da. Demagun konpainia batek hautaketa-prozesu bat egin nahi duela langile onena aurkitzeko. Pertsona hori fakturazio handiena lortzen duena, konpainian azkarrago aurrera egiten duena edo ezagutza gehien duena izan daiteke. Lehen urrats horrek, batzuetan alborapenak zenbatesterakoan kontuan hartzen ez duguna, behar bezain zehatza izan behar du.

Bigarren urratsa aukeratuko datuak dira. Gerta daiteke konpondu nahi dugun arazorako behar bezain adierazgarriak ez izatea edo dagoeneko beren alborapena barne hartzea. Amazonen algoritmoa izan daiteke adibide bat: lanpostu jakin batzuk kontratatzeko gizonak proposatzen zituen gehienbat, bere entrenamendu-datuek gizonezko langileen gehiengoa zutelako.

Beste adibide handi bat COMPAS kasua da. Delitu baten errudunak zein pertsona izan daitezkeen iragartzen duen aplikazio amerikarra. Errorea generoari eta arrazari buruzko datuen laginean sartuta zegoela aurkitu zen. Gizon gehiago emakumeak baino, eta koloreko pertsona gehiago kaukasiarrak baino. Ondorioz, algoritmoaren iragarpenak gizon koloredunei berriro eragiteko aukera handiagoa ematen zien.

Azkenik, oso garrantzitsua da informazioa nola aukeratzen den algoritmoa eraikitzeko, hau da, zein aldagai izango diren garrantzitsuak kasu bakoitzerako. Langileen hautaketaren adibidea hartuz gero, adina, esperientzia-urteak, egindako ikastaroak, merezimenduak eta abar hauta daitezke. Ereduaren zehaztasuna atributuen aukeraketaren araberakoa izango da, eta ez da beti erraza izango datu horietan jasotako alborapen inplizitua ulertzea.

Machine Learningari dagokionez, alborapenek duten garrantzia dela eta, azken bost urteetan artikuluen, ikerketen eta horiek arintzeko tresnen kopurua handitu egin da.

Ereduaren zehaztasuna atributuen aukeraketaren araberakoa izango da, eta ez da beti erraza izango datu horietan jasotako alborapen inplizitua ulertzea.

Arlo ikertzaileari dagokionez, lotura duten ehunka artikulu zientifiko eta AA garatzen duten beste enpresa asko joera horiek neurtzeko eta algoritmoek hartutako erabakiak azaltzeko modua bilatzeko tresnak sortzen hasi dira.

IBMren kasuan, produktu komertzial bat garatzeaz gain (Openscale, 2018an kaleratua), framework opensource bat eman du, Python, ai Fairness 360 delakoan oinarritua, edozein erakundek erabili ahal izateko.

Amazon NSFrekin (National Science Foundation) lanean ari da alborapenekin zerikusia duten ikerketetan, eta emaitza bere garapenetan aplikatzen ari da.

Googlek baditu algoritmoak beta moduan alborapenen analisia eta azalgarritasuna hobetzeko.

Garrantzitsua da algoritmo horien garapenean parte hartzen duten pertsonek eta horiek erabiltzen dituzten enpresek galdetzea ea joera horiek kontuan hartzen ari diren eta ea gai diren algoritmoek hartutako erabakiak azaltzeko. Egia da enpresa teknologiko handi gehienek beren kode etikoak argitaratuta dituztela, eta Europan gomendio batzuk daude zehaztuta Trustworthy AI funtsezko zazpi punturekin, baina oraindik bide luzea dago egiteko etikari dagokionez.

Egia da enpresa teknologiko handi gehienek beren kode etikoak argitaratuta dituztela, eta Europan gomendio batzuk daude zehaztuta Trustworthy AI funtsezko zazpi punturekin, baina oraindik bide luzea dago egiteko etikari dagokionez.

Duela gutxi Capgeminik erakundeetako etikari buruz egindako txosten batek, beste emaitza batzuen artean, etika kontuan hartzen zuten konpainiek, NPSrekin (Net Promoter Score) 44 puntu gehiagoko abantaila zutela erakusten zuen, indize hau, bezeroen fideltasuna eta konpainia edo produktu hori beste batzuei gomendatzeko duten joera neurtzeko erabiliagoa delarik. Albiste ona da konpainietako etika erosleak eta, beraz, salmentak handitzeko arrazoi bat izan daitekeela, eta, beraz, konpainiek askoz ere interes handiagoa jarriko dutela atal horretan.

Eraldaketa digitalari esker, inoiz baino eragin handiagoa dugu bezeroek konpainietan, eta preskriptoreak edo kontrakoak izan daitezke produktuen edo enpresen sare sozialetan. Erabil dezagun botere hori, AAren bilakaerak etika alde batera utz ez dezan eta horrela guztioi on egin dezagun.

Erabil dezagun konpainietan eragiteko dugun ahalmena, IAren bilakaerak etika alde batera utz ez dezan.