Eelmisel aastal lõi Facebook kaks vestlusprogrammi ja palus neil hakata omavahel rääkima, harjutades oma läbirääkimisoskust. Botid, selgub, olid läbirääkimisel päris head - kuid tegid seda inimeste enda arusaadava koostatud keele abil.
Seotud sisu
- See kunstnik elab salastatud saladuste ja jälitustegevuse salajases maailmas
See on koht, kuhu maailm läheb. Arvutid loovad sisu üksteisele, mitte meile. Pilte teevad arvutid teiste arvutite vaatamiseks ja tõlgendamiseks. See kõik toimub vaikselt, sageli meie teadmata või nõusolekuta.
Seega võib 21. sajandil kõige olulisem oskus olla arvuti moodi nägemise õppimine - nende masinatevaheliste kommunikatsioonide nähtavaks tegemine -.
25. oktoobril 2018 mängis Kronos Quartet - David Harrington, John Sherba, Hank Dutt ja Sunny Yang - Smithsoniani Ameerika kunstimuuseumis kontserti. Neid jälgis 400 inimest ja tosin tehisintellekti algoritmi, viimati nimetatud näituse "Sites Unseen" taga oleva kunstniku Trevor Pagleni viisakuse tõttu, kes on praegu muuseumis vaadata.
Muusikute mängimisel näitas nende kohal olev ekraan meile inimestele seda, mida arvutid nägid.
Kuna Kronos töötas läbi Ottomani impeeriumist pärit leinava teose, tuvastasid ekraanil olevad algoritmid muusikute näod, visandades iga inimese huuled, silmad ja nina (ning nägid aeg-ajalt "kummitusnägusid", kus neid polnud - sageli Kronos asutaja Harringtoni juuksemopp). Algoritmide täiustamisel hääbus videovoog seni, kuni järele jäid ainult mustal taustal olevad neoonjooned. Lõpuks näo piirjooned tuhmusid, kuni joonte abstraktne paigutus - arvatavasti kogu arvuti, mida oli vaja "näo" mõistmiseks, kuid inimestele täiesti arusaamatu - oli kõik, mis järele jäi.
"Nägemismasin", Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Nägemismasin", Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Nägemismasin", Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Nägemismasin", Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Nägemismasin", Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Nägemismasin", Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Nägemismasin", Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Nägemismasin", Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Nägemismasin", Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Nägemismasin", Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Nägemismasin", Trevor Paglen, Kronos Quartet Ida-ranniku debüüt lavastuses "Nägemismasin", nagu Pagleni teine teos, palus vaatajatel ja kuulajatel õppida nägema, nagu arvutid teevad, ja uurida uuesti inimlikku suhet tehnoloogiaga - telefonid meie taskus ja silmad taevas ja kõik vahepealne.
On aasta 2018 ja mõte, et mobiiltelefonid meid jälgivad, ei tunne enam vandenõuteooriat, mille esitas tina-fooliumi-mütsi kandev keldriblogija. Google tabati selle aasta alguses Androidi telefonide kasutajate asukohtade jälgimisel, isegi kui kasutajad selle funktsiooni keelasid. Paljud inimesed on veendunud, et meie telefonid kuulavad meid reklaamide paremaks esitamiseks - Facebook ja muud ettevõtted eitavad neid tasusid, ehkki neil on tehniliselt ja juriidiliselt võimalik seda teha. Tech ajakirjanikud Alex Goldman ja PJ Vogt uurisid ja leidsid sama: pole mingit põhjust, miks meie telefone ei kuulataks, kuid teisest küljest saavad reklaamijad koguda meie kohta piisavalt teavet muude meetodite abil, mida nad lihtsalt ei vaja. .
Just selles kontekstis esitati "Nägemismasin". Umbes kümmekond Kronos Quartetit vaadanud kaamerat saatsid etendusest reaalajas video arvutiriiulisse, mis kasutab jubedate visuaalide loomiseks tavalist tehisintellekti algoritme. Algoritmid on samad, mida kasutatakse meie telefonides, et aidata meil paremini selfisid teha, need, mida isejuhtivad autod takistuste vältimiseks kasutavad, ning need, mida kasutavad korrakaitse- ja relvajuhised. Ehkki ekraanil olevad tulemused olid kohati ilusad või isegi naljakad, oli õuduse alamvool.
"See, mis mind selle konkreetse töö juures hämmastab, on see, et ta näitab meile midagi, mis on - ja see kehtib kogu tema töö kohta -, ta näitab meile midagi häirivat ja teeb seda trikkide abil, " ütleb muuseumi kuraator John Jacob fotograafia jaoks, kes korraldas saidid nähtamatud.
"See on tahtlik trikk, " ütleb ta, "ja see töötab."
Hiljem tegid keerukad näotuvastuse algoritmid hinnanguid Kronose liikmete kohta ja näitasid nende tulemusi ekraanil. "See on John [Sherba]. John on vanuses 24–40 aastat, " ütles arvuti. "Sunny [Yang] on 94, 4% naissoost. Sunny on 80% vihane ja 10% neutraalne."
"Üks asi, mida ma loodan, et etendus näitab, " ütleb Paglen, "on mõned viisid, kuidas arvutite tajumine ei ole neutraalne. See on väga kallutatud ... igasuguste poliitiliste ja kultuuriliste eeldustega, mis on mitte neutraalne. " Kui soolise klassifitseerimise süsteem ütleb, et Sunny Yang on 94, 4 protsenti naistest, siis tähendab see, et keegi on 100 protsenti naine. "Ja kes otsustas, mis on 100 protsenti naine? Kas Barbie on 100 protsenti naine? Ja miks on sugu binaarne?" Küsib Paglen. "Nähes, et see juhtub hetkel, kus föderaalvalitsus üritab sõna otseses mõttes kustutada queer-soolisi inimesi, on see ühelt poolt naljakas, kuid minu jaoks on see ka õõvastav."
Hilisem algoritm loobus protsentidest ja liikus stseenis olevate objektide lihtsalt tuvastamiseks. "Mikrofon. Viiul. Isik. Meduusid. Parukas." (Kaks viimast on ilmselgelt vead; algoritm näib segamini ajavat Hank Duttit millimallika ja Harringtoni tegelike juustega toupiga.) Siis muutus klassifikatsioon keerukamaks. "Sunnyl on käes käärid, " ütles masin, kui hele säras tema tšello keelpillidest. "John hoiab nuga." Mis juhtuks, kui klassifikaator annaks korrakaitseorganitele selle vale teabe, me ei saa kunagi teada.
Enamik AI-platvormide lõppkasutajaid - kes pole kunstnikud - võivad väita, et nendel süsteemidel võib olla oma eelarvamusi, kuid alati võtab inimese lõplikult sisse. Amazoni valmistatud algoritm Rekognition, mida ettevõte müüb korrakaitseorganitele ja võib-olla ka ICE-le, tunnistas 28 kongressi liiget kuulsalt kui inimesi, kellele oli esitatud kuriteosüüdistus, kui võrrelda nende nägusid ülipopulaarses andmebaasis sisalduvate piltidega. Omal ajal väitis Amazon, et ACLU, mis kasutas süsteemi vastete tegemiseks, oli Rekognitionit valesti kasutanud. Ettevõtte sõnul on vastete süsteemi vaikeseade, mida nimetatakse "usaldusläveks", vaid 80 protsenti. (Teisisõnu, algoritm oli vaid 80 protsenti kindel, et rep. John Lewis oli kurjategija.) Amazoni pressiesindaja ütles, et ta soovitab politseiosakondadel kasutada usaldusprotsenti 95 protsenti ja et "Amazon Rekognitionit kasutatakse peaaegu eranditult selleks, et aidata kitsendage välja ja laske inimestel oma otsustusvõimaluste abil kiiresti võimalusi üle vaadata ja kaaluda. ”Võib-olla arvutid suhtlevad omavahel, kuid praegu paluvad nad inimestel siiski viimast kõnet teha.
Muusika, mille Paglen valis koos Kronose sisendiga, on ka tehnoloogia osas midagi öelda. Üks tükk, Raymond Scotti "Powerhouse", on "ilmselt kõige kuulsam selle poolest, et seda kasutatakse koomiksites tehase stseenides", ütleb Paglen. "Kui näete mingisugust tehase tüüpi ületootmist ja hulluks minemist, kõneleb see sageli muusika. Minu jaoks on see mõtteviis mõelda sellele peaaegu karikatuurilisele industrialiseerimisele ja paigutada need tehnoloogia konteksti." Teine teos, Steve Reichi "Erinevad rongid", sulges komplekti. Kronos esitab ainult esimese osa, mis räägib Reichi lapsepõlvest 1930ndatel ja 40ndatel; Paglen väidab, et tema arvates tähistab see teos "ülekülluse ja edusammude tunnet, mida rongid hõlbustavad." *
See ühendati piltidega avalikult kättesaadavast andmebaasist ImageNet, mida õpetatakse arvutitele, mis asjad on. (Seda nimetatakse ka "treeningandmeteks", nii et jah, see on natuke nüanss.) Ekraanil välgasid pildid võimatult kiiresti, näidates näiteid puuviljadest, lilledest, lindudest, mütsidest, seisvatest, kõndimisest, hüppamisest ja sellised isikud nagu Arnold Schwarzenegger. Kui soovite õpetada arvutile, kuidas ära tunda inimest, näiteks Schwarzeneggerit, või maja või mõistet "õhtusöök", siis alustaksite arvutile nende tuhandete piltide näitamist.
Samuti olid lühikesed videoklipid inimestest, kes suudlesid, kallistasid, naersid ja naeratasid. Võib-olla oleks nende piltide jaoks koolitatud AI heatahtlik, sõbralik.
Kuid "Erinevad rongid" ei tähenda ainult optimismi; hilisemad liikumised, mida Kronos neljapäeval ei mänginud, kuid on esimeste poolt "vihjatud", käsitlevad seda, kuidas rongireisimise lubadus võeti kasutusele holokausti vahendiks. Rongidest, mis tundusid tehnoloogilise progressina, said sõidukid, milles kümneid tuhandeid juute viidi ümber surmalaagritesse. See, mis tundus heatahtlik tehnoloogia, muutus kurjuseks.
"See on nagu" Mis võib valesti minna? " Paglen ütleb. "Kogume kogu teavet kõigi maailma inimeste kohta." "
Ja tegelikult kui "Erinevad rongid" lõppes, nihkus tähelepanu. Ekraanil ei olnud enam Kronose pilte ega ImageNeti treeningute andmeid; selle asemel näitas see publiku otseülekannet, kuna näotuvastuse algoritmid valisid välja iga inimese omadused. Isegi kui arvame, et meid ei jälgita, oleme.
Publiku otseülekandes valisid näotuvastuse algoritmid iga inimese omadused. (Bruce Guthrie) Selle loo teatamiseks lahkusin oma majast ja kõndisin metroojaama, kus skannisin pöördenurga läbimiseks minu nimega lingitud elektroonilise kaardi ja jälle metrooga kesklinnast lahkudes. Kesklinnas möödusin enne muuseumisse sisenemist pool tosinat turvakaamerat, kus märkasin veel vähemalt kaht (Smithsoni esindaja ütles, et Smithsonian ei kasuta näotuvastustehnoloogiat; DC-i suurlinna politseiosakond ütleb sama oma kaamerate kohta).
Salvestasin oma telefoni abil intervjuud ja laadisin heli üles transkriptsiooniteenusesse, mis kasutab AI-d selleks, et aru saada, mida mina ja mu subjektid ütleme, ning võib või ei pruugi minu jaoks olla suunatud reklaami, mis põhineb intervjuude sisul. Saatsin meilisõnumeid Gmaili abil, mis ikka "loeb" kõike, mida ma saadan (ehkki enam mitte mulle reklaame näidata).
Aruandlusprotsessi ajal sattusin mööda linna ringi jalutades Google'i tänavavaate autosse - ma ei tee seda kordagi. Kaks korda. See pole paranoia, kui nad teid tõesti jälgivad, eks?
Mis jääb üle sellest maailmast, kus arvutid näevad ja võimalusel teevad meie kohta hinnanguid? "Nägemismasin" kutsub meid õppima mõtlema nagu arvuti - kuid see tuletab meile ka meelde, et mõned meist on praegu veel täielikult inimlikud.
Muusika, ütles Paglen, "on asi, mida ei saa tegelikult kvantifitseerida ... kui vaatate arvutinägemissüsteemi, mis sisuliselt kuulab esinejaid, siis osutab see minu jaoks tõepoolest tohutule lõhele tajudes selle vahel, kuidas me kultuuri tajume, emotsioone ja tähendust mõistame." ja kõik viisid, kuidas need on autonoomsete süsteemide jaoks nähtamatud. "
Või nagu Harrington ütleb: saate muusikat teha puust või 3D-printeril valmistatud viiuliga. Võite kasutada süsinikkiust vibu või pernambuco puidust valmistatud vibu. Kuid tema sõnul tuleb vibu ikkagi nööridest üle tõmmata. Muusika "muutub väärtuslikumaks, kuna see on käsitsi valmistatud".
Ja praegu on see ikkagi midagi, mida ainult meie teha saame. Masinad ei vaja meid enam. Kuid kui rääkida viiulikeele vibu pidulikust kõlast ja emotsionaalsetest keelpillidest, mis viitavad puksiiridele, siis me ei vaja masinaid.
John Trebi kureeritud film "Trevor Paglen: Sites Unseen", jätkub Washingtoni DC-s asuvas Smithsoniani Ameerika kunstimuuseumis 6. jaanuarini 2019. Kavas on reisida San Diego moodsa kunsti muuseumi 21. veebruar - 2. juuni, 2019.
* Toimetaja märkus, 2. november 2018: Seda lugu on redigeeritud, et selgitada Steve Reichi kompositsiooni "Erinevad rongid" kavandatud tähendust ja päritolu lugu.
