Tölvuþankar og siðferðilegar gervidómgreindir
Sýsifos er nú orðinn pistlahöfundur í útvarpsþættinum Lestinni hjá Ríkisútvarpinu. Mestmegnis fjallar hann um tækni og vísindi, samfélagsmiðla og vísíndaskáldskap — og þvíumlíkt — en hann reynir að finna heimspekilegar nálganir á efnið.
Hér er fyrsti pistillinn sem fluttur var í Ríkisútvarpinu þann 18. janúar 2017. Að neðan set ég svo eftirritið fyrir þá sem kjósa að lesa.
Málverkið efst er eftir Francisco Goya og heitir Riña a garrotazos.
Vangaveltur um gervigreind
Menn hefur dreymt um gervigreind furðulega lengi. Það má segja að jafnvel Grikkir til forna hafi séð gervigreind fyrir sér í hillingum. Í epísku ljóði frá tímum hellenismans um Jason og Argóarfarana segir af viti gædda vélmenninu Talos, sem var gert úr bronsmálmi. Seifur alfaðir átti þá að hafa gefið Evrópu, konu Mínosar konungs hann að gjöf, og hringsólaði bronsþursinn um eyjuna Krít dag eftir dag til þess að vernda hana frá árásum sjóræningja og annarra ómenna.
Nú til dags er gervigreind ekki jafn fjarlæg draumsýn og hún eitt sinn var. Þvert á móti, raunar: gervigreind í hinni eða þessari mynd kemur við okkar hversdagslíf, hvort sem við tökum eftir því eða ekki. Gervigreind gerir okkur kleift að spila tölvuleiki án mannlegs mótherja, hún mælir með tónlist við okkur gegnum tónstreymiþjónustur, og svo gerast sum okkar jafnvel svo djörf stundum að við spyrjum símana okkar spurninga, og þá er það gervigreind — Siri eða Cortana eða Google Assistant — sem svarar. Svo hafa sjálfkeyrandi bílar einnig verið á döfinni en svo virðist sem nokkur fyrirtæki séu langt á leið komin með fullsjálfvirkar bifreiðar.
Flestir hafa þó helst haft kynni af gervigreind í gegnum kvikmyndir og bókmenntir — nánar tiltekið í vísindaskáldsögum hvar gervigreindirnar hafa steypt mannkyninu af stóli, takandi við sem ráðandi lífveran á jarðkringlunni. Í Terminator-kvikmyndunum verður gervigreindarkerfið Skynet sjálfstætt hugsandi og allt fer úr böndunum — í 2001: A Space Odyssey finna menn biksvartan bautastein á tunglinu og í kjölfarið reynir gervigreindin HAL9000 að myrða áhöfn geimskips á leið til Júpíter, í leit að öðrum sambærilegum bautasteini.
En — varðandi byggingu gervigreindarinar sjálfrar — þá virðist sem svo að maður verði að hafa einhverja hugmynd um það hvað greind er, yfir höfuð, ef maður ætlar sér að byggja nýja greind frá grunni — gervi-greind, það er að segja. Er það merki um greind að geta hreyft sig í átt að tilteknu markmiði? Er maður þá og aðeins greindur ef maður getur hugsað abstrakt um hlutina? Eru tilfinningar nauðsynlegur hluti greindar? Allt þetta er óljóst, en flestir geta líklegast sammælst um að gervigreind hljóti að taka á sig að minnsta kosti einhverja mannlega mynd — þó ekki sé nema að hún muni geta beitt rökhugsun og talað einhverskonar tungumál.
Þó er vafi á því hvað má raunverulega kalla gervigreind. Innan tölvunarfræði, heimspeki, stærðfræði og rökfræði eru skiptar skoðanir á þessari skilgreiningu — sumir segja að sönn gervigreind sé aðeins sú greind, sem smíðuð er af mönnum, en er jafnframt fullmeðvituð og fær um sjálfstæðar hugsanir og ákvarðanir óháð forritun og öðrum þáttum. Aðrir eru ekki svo strangir í skilgreiningum sínum, og telja að gervigreindir geti verið misgreindar, en séu þó alltaf raunverulegar greindir fyrir það.
Gervigreind verður ef til vill ekki fullkomin fyrr en mögulegt er að kortleggja mannshugann að fullnustu. Okkar skilningur á greind mótast nefnilega svo afskaplega af því hvað mennsk greind er, einmitt því að við í fyrsta lagi erum mennsk greind, en einnig vegna þess að við erum mennskar verur og komumst augljóslega ekki framhjá þeirri staðreynd. Því verðum við að gera ráð fyrir mennskum hindrunum, mennskri getu, mennskum forsendum — tíma, rúmi, orsakalögmáli, og svo framvegis. Megináskorun gervigreindarhönnuða framtíðar verður því mögulega kortlagning hugans, eins og hann leggur sig, til þess að geta miðað gervigreindarþróunina við fyrirmyndina, manninn.
Það kann að vera að það sé með öllu ómögulegt fyrir okkur að skapa gervigreind sem er sannarlega greindari en við sjálf — jú, okkur reynist auðvelt að hanna reiknivélar sem geta framkvæmt milljón útreikninga á brotabroti úr sekúndu, en er reiknivél nokkuð greindari en við? Er hún ekki bara hröðun á einu sviði mannlegrar hugsunar, fremur en yfirburðagreind, sem slík? Líklegt er að það sé okkur einfaldlega ómögulegt að hugsa um greind sem er okkur æðri, eðli málsins vegna — rétt eins og fiskur getur ekki ímyndað sér að það sé neitt sérstakt fyrir utan tjörnina sem hann svamlar um á hverjum einasta degi.
Öllum vangaveltum um eðli greindar sem slíkrar sleppt, þá er áhugaverð tilhugsun að velta ýmsu fyrir sér varðandi gervigreind og ákvarðanatöku. Til að mynda hversu langur tími þarf að líða þar til gervigreindir koma til með að taka stórar ákvarðanir, jafnvel siðferðilegar ákvarðanir, fyrir hvert og eitt okkar. Sjálfkeyrandi bílar eru gott dæmi um þetta. Þeir ganga fyrir fínpússuðum skynjurum og myndavélum og háþróaður tölvubúnaður sem er í sumum tilfellum fær um að læra af reynslunni tekur leiftursnöggar ákvarðanir um það sem er að gerast í umferðinni á hverju einasta sekúndubroti.
Hugsum okkur sjálfkeyrandi bíl — á leið eftir hlykkjóttum vegi, keyrandi á 90 kílómetrum á klukkustund, með fjóra farþega sitjandi aftur í bílnum, ómeðvitaða um umheiminn, sokkna í samtal eða bók eða þvíumlíkt — þegar skyndilega stekkur barn í leik með bolta út á götuna, í burtu frá foreldrum sínum sem höfðu lagt skömmu frá til þess að taka landslagsljósmynd. Gervigreind bílsins hefur nú um tvennt að velja. Á hún að halda för sinni áfram, keyrandi yfir barnið — eða á hún að rykkja bílnum í bremsusveig, takandi áhættu um að fara útaf veginum og mögulega niður grýtta og bratta fjallshlíð? Þetta er vægast sagt flókin ákvörðun, og það að gervigreind sé að aka bifreiðinni stigmagnar vandann. Hún yrði ekki auðveldari ef við skiptum gervigreindinni út fyrir mennskan ökumann, en það myndi vekja upp færri spurningar, þar eð við gefum okkur að mannfólk sé fært um að taka siðferðilegar ákvarðanir sem þessar — um það hvort fjögur líf séu meira virði en eitt, eða hvort öll líf séu jafn mikils virði.
Ótal spurningar vakna við þessa hugsunaræfingu. Þær fyrstu snúa strax að því hvort gervigreindir geti yfir höfuð tekið siðferðilegar ákvarðanir. Eru þær ekki í eðli sínu vélrænar, bundnar rökfræðilega föstum aðgerðaferlum sem ómögulegt er að losna frá — eðli þeirra samkvæmt? Innra orsakasamhengi nauðbindur þær til þess að velja eitt yfir annað, gætum við fullyrt — sem gerði það að verkum að þær yrðu aldrei færar um raunverulega frjálst og persónulegt val. En hvað um okkur, mannfólkið? Erum við yfir höfuð fær um að taka sjálfstæðar siðferðilegar ákvarðanir? Erum við ekki alveg jafn bundin orsakaferli efnisheimsins og vélarnar sem við sköpum? Eða búum við ef til vill yfir einhverjum yfirskilvitlegum skapandi neista, sem skilur okkur frá öllu öðru efni í alheiminum?
Ómögulegt er þó að fullyrða um það hvort nokkuð sé varið í þessar vangaveltur. Sannleikurinn um málið er langt frá því að vera auðfundinn. Því meira sem maður rýnir í það, því flóknari verða spurningarnar — svo virðist sem maður verði villtari því nánar sem maður lítur á landakortið. Það sem við getum þó verið viss um er það að greinilegur og mikilvægur munur er á hugtökunum um greind og svo dómgreind — og þróun gervigreindar verður að taka mið af því. Ljóst er, hins vegar, að ótal möguleikar felast í framtíð gervigreindar. Hver veit nema fyrsta meðvitaða gervigreindin raungerist innan næstu fimmtíu ára — hver veit nema gervigreindir muni sjá um heimilishald fyrir okkur eftir áratug — hver veit nema gervigreindir þurfi að fá klausu í mannréttindasáttmálum og hver veit nema gervigreindir stofni til sérstakra verkalýðsfélaga? Framtíðin, sem verður ef til vill líkari vísindaskáldsögunum en við gerum okkur grein fyrir, mun leiða allt þetta í ljós.
