Kui president Obama valitud CIA järgmiseks juhiks John Brennan ilmus eile senati komisjoni ette, arvas üks tema kinnituskuulamisel kõiki teisi küsimusi:
Kuidas võetakse vastu otsused saata terroristide kahtlusega tapja droonid?
See, kuidas ja miks konkreetsed droonilööke tellida, jääb suuresti saladuseks, kuid vähemalt üks on selge - otsuseid teevad inimesed, kes loodetavasti maadlevad surmava raketi saatmise mõttega. okupeeritud hoonesse.
Aga mis siis, kui inimesi poleks kaasatud? Mis siis, kui ühel päeval jäetakse elu või surma otsused masinatele, mis on varustatud paljude andmetega, aga ka õiguse ja vale tunnetega?
Moraalne tüli
Seda pole siiani tõmmatud. See ei juhtu niipea, kuid pole kahtlust, et kuna masinad muutuvad intelligentsemaks ja autonoomsemaks, on nende ümberkujundamise keskne osa võime õppida moraali.
Tegelikult ei pruugi see nii kaugel olla. Gary Marcus, kes kirjutas hiljuti ajakirjas The New Yorker, tutvustas stsenaariumi ühe Google'i juhita auto kohta, enne kui oli sunnitud tegema sekundilise jaotuse otsuse: “Teie auto kiirustab mööda silda 50 miili tunnis, kui eksitav koolibuss veab 40 süütut last. ületab oma tee. Kas teie auto peaks laste päästmiseks või liikumise jätkamiseks ohtu laskma, riskides selle omaniku (teie) eluga, või seades ohtu kõik 40 last? Kui otsus tuleb teha millisekundites, peab kõne tegema arvuti. ”
Ja kuidas on robotrelvade või sõduritega? Kas droon oleks võimeline õppima maja mitte tulistama, kui see teaks, et seal on ka süütuid tsiviilisikuid? Kas masinaid saaks õpetada järgima rahvusvahelisi sõjareegleid?
Kindlasti arvab nii ka Georgia Tehnika arvutiteaduse professor ja robootikaekspert Ronald Arkin. Ta on arendanud tarkvara, millele viidatakse kui „eetilistele valitsejatele”, mis võimaldaks masinatel otsustada, millal on asjakohane tulistada ja millal mitte.
Arkin tõdeb, et sellest võib veel aastakümneid eemal olla, kuid ta usub, et robotid võivad ühel päeval olla nii füüsiliselt kui ka eetiliselt paremad kui inimsõdurid, mitte olla haavatavad lahingu emotsionaalse trauma või kättemaksusoovide ees. Ta ei kujuta ette robotite armeed, vaid masinaid, kus masinad teenivad koos inimestega, tehes kõrge riskiga töid, mis on täis stressirohkeid otsuseid, näiteks hoonete puhastamine.
Hoiduge tapjarobotitest
Kuid teised tunnevad, et on aeg seda tüüpi mõtlemist välja kriipsutada, enne kui see liiga kaugele jõuab. Eelmise aasta lõpus avaldasid Human Rights Watch ja Harvard Law Schooli inimõiguste kliinik aruande „Inimkonna kaotamine: juhtum tapjarobotite vastu”, milles oma pealkirjale tuginedes kutsuti valitsusi üles keelama kõik autonoomsed relvad, kuna need suurendaksid tsiviilelanike surma või vigastamise oht relvastatud konflikti ajal. ”
Umbes samal ajal teatas rühm Cambridge'i ülikooli professoreid plaanist käivitada nn eksistentsiaalse riski uuringu keskus. Kui see selle aasta lõpus avatakse, on vaja tõsiseid teadusuuringuid selle kohta, mis võiks juhtuda siis, kui ja kui masinad saavad meist targemaks.
Keskuse ühe kaasasutaja Huw Price sõnul on oht, et ühel päeval võiksime tegeleda masinatega, mis pole pahatahtlikud, vaid masinatega, mille huvid meid ei hõlma.
Petmise kunst
The Skynati, varjatud tehisintellekti süsteemi Shades of The Endator filmides küborg Arnold Schwarzeneggerit kudenud varjatud tehisintellekti süsteem. Võib-olla jääb see alati ulme värk.
Kuid mõelge muudele uuringutele, mida Ronald Arkin teeb nüüd kaitseministeeriumi rahastatavate projektide raames. Tema ja tema kolleegid on uurinud, kuidas loomad üksteist petavad, eesmärgiga õpetada robotitele pettuse kunsti.
Näiteks on nad töötanud robotite programmeerimisel, et nad saaksid vajadusel tugevust avaldada, nagu loomad sageli teevad. Ja nad on vaadanud õppemasinaid, et jäljendada olendite käitumist nagu idahall orav. Oravad peidavad oma pähkleid teiste loomade eest ja kui teised oravad või kiskjad ilmuvad, külastavad hallid oravad mõnikord kohti, kus nad varem peitsid pähkleid, et konkurente rajalt visata. Sarnase strateegia järgimiseks programmeeritud robotid on suutnud konkurente segadusse ajada ja pidurdada.
Arkin väidab, et see kõik on masinate arendamise huvides, mis ei kujuta endast ohtu inimestele, vaid on pigem vara, eriti sõja koledas kaoses. Peamine on hakata keskenduma robotite asjakohase käitumise juhiste seadmisele.
"Kui hakkate seda Pandora boksi avama, mida tuleks selle uue võimalusega ette võtta?" Ütles ta hiljutises intervjuus. "Ma usun, et nende intelligentsete robotite abil on võimalik vähendada võitlust ohvrite vastu, kuid peame olema väga ettevaatlikud nende kasutamise osas ja mitte laskma neid ilma asjakohase mureta lahinguväljal."
New Yorkeri kirjaniku Gary Marcuse uskumiseks pakuvad eetiliselt arenenud masinad lahinguväljal suurt potentsiaali.
Arvamus, mis mind kõige rohkem kummitab, on see, et inimese eetika ise on vaid pooleliolev töö. Ikka seisame silmitsi olukordadega, kus meil pole hästi välja töötatud koode (nt abistatud enesetappude puhul) ja me ei pea kaugele minevikku otsima juhtumeid, kus meie enda koodid olid kahtlased või mis veel hullem (nt seadused, mis lubatud orjus ja eraldamine).
Mida me tõesti tahame, on masinad, mis võivad minna sammu kaugemale, varustades neid mitte ainult kõige kõvemate eetikakoodeksitega, mida meie parimad kaasaegsed filosoofid suudavad välja töötada, vaid ka võimalusega, et masinad teevad oma moraalse arengu, viies nad meie piiratud varakult üle - 21. sajandi idee moraalist. ”
Masinad marsivad edasi
Siin on hiljutised robotiarendused:
- Hmmmm, eetiline ja alatu: Austraalia teadlased on välja töötanud roboti, mis suudab ringi hiilida, liikudes ainult siis, kui selle müra katteks on piisavalt taustamüra.
- Mis see sumin on ? : Afganistani Briti sõdurid on hakanud kasutama valve droone, mis mahub peopesadesse. Musta hornaadi nanoks kutsutud väike robot on vaid neli tolli pikk, kuid sellel on spioonikaamera ja ta saab täislaadimisega lennata 30 minutit.
- Pinna kriimustamine: NASA töötab välja roboti nimega RASSOR, mis kaalub vaid 100 naela, kuid suudab kaevandada mineraale Kuul ja teistel planeetidel. See võib liikuda ebatasasel maastikul ja isegi üle julgete, toetades end kätele.
- Ah, iha: Ja siin on varase sõbrapäeva lugu. Tokyo ülikooli teadlased kasutasid roboti juhtimiseks isast koi. Tegelikult kasutasid nad selle paaritusliigutusi seadme suunamiseks emaste koi feromoonidega lõhnastatud objekti poole.
Videoboonus: nii et te pole lihtsalt kindel, kas saaksite 13-suu pikkust robotit juhtida? Pole probleemi. Siin on vahva demo, mis näitab teile, kui lihtne see võib olla. Õnnelik mudel näitab teile isegi, kuidas funktsiooni „Smile Shot” kasutada. Naeratad, see tulistab BB-sid. Kui raske see on?
Rohkem saidilt Smithsonian.com
See robot on parem isa kui teie isa
Robotid saavad inimliku puudutuse
