Musta laatikko on tutkimusmatka maailmaan, jossa algoritmit, tekoäly ja näkymättömät järjestelmät muokkaavat tunteitamme, valintojamme ja yhteisöjämme. Olemme astuneet tekoälyttömyyden aikaan: joko tulemme älykkäiden koneiden tyhmiksi käyttäjiksi tai opimme käyttämään niitä viisaasti. Tekoäly toimii mustassa laatikossa, järjestelmässä, jonka toimintaa emme näe, mutta jonka vaikutukset tunnemme. Mitä tapahtuu, kun tekoälystä tulee opettaja, ystävä ja peili?
Jos tekoäly valitsisi viisaasti, antaisitko sen päättää elämästäsi? Tai kuolemastasi? Tämä kirja kutsuu sinut katsomaan pinnan alle.
Jarno Alastalo on tekno-filosofi, kirjailija, digitaalisten yhteisöjen rakentaja ja kissavideoiden asiantuntija, joka on suunnitellut mustia laatikoita.
Jarno Alastalo on tekno-filosofi, kirjailija, digitaalisten yhteisöjen rakentaja ja kissavideoiden asiantuntija, joka on suunnitellut mustia laatikoita. Hän tarkastelee teknologiaa inhimillisestä näkökulmasta: miten tekoäly, sosiaalinen media ja algoritmit muokkaavat ihmisyyttä, identiteettiä ja arvoja.
Olen uppoutunut työn ja oman kiinnostuksen puolesta intensiivisesti tekoälykeskusteluun, ja se on täynnä kohinaa, "sodan sumua", näkemyksellisyyttä, ylikuumentunutta kaupallisuutta, pelkoa, epätoivoa, toivoa, intoa ja ties mitä. On vaikea saada selvää mikä on merkittävää, ja mihin kannattaisi keskittyä. Tämä kirja antoi hyvän hengähdystauon ja isomman perspektiivin aiheeseen, pohtien algoritmien ja tekoälyjen merkitystä ihmisen elämään monesta näkökulmasta, ilman mustavalkoista asemointia mihinkään suuntaan. Mun mielestä tällaista pohdintaa tarvitaan, kun ollaan näin isojen asioiden äärellä, esim. että mikä arvo ihmisyydellä on jos AI korvaa työn?
Kiinnostavia mietintöjä muun muassa siitä, miten tekoälyn käyttö vaikuttaa ihmisen oppimis- ja ajattelukykyyn. Kirjassa tarkastellaan tekoälyä ja ihmisyyttä monista eri näkökulmista. Minua puhutteli erityisesti pohdinta luku- ja kirjoitustaidon merkityksestä ja siitä, miksi lukemista ja kirjoittamista ei kannattaisi jättää kokonaan koneen tehtäväksi.
Keskeisenä lähteenä on hyödynnetty sekä asiantuntijoiden että nuorten haastatteluja. Olisin kaivannut tietoa siitä, millä perusteella haastateltavat on valittu, ja lisäksi haastateltavat olisi voinut listata jossakin. Kirjassa on myös valtavasti suoria sitaatteja, ja vähempikin olisi minusta riittänyt.
Kirjan pääviesti on se, että tekoälyä voi käyttää joko typerästi tai fiksusti ja että typerästä käytöstä seuraa todennäköisesti monenlaisia ongelmia niin yksilölle itselleen kuin laajemmaltikin.
“Jos tekoäly passivoi oman ajattelun, se ei palvele tarkoitustaan.” s. 208
Mikä tekoälyssä on niin ihmeellistä? Miksi siitä kohkataan, hyvässä ja pahassa? Mitä hyvää sillä voidaan saavuttaa, ja millaiseen painajaiseen se voi meidät ajaa? Tässä kysymyksiä, joita moni miettii, myös Jarno Alastalo tässä esseekokoelmassaan. Tietoa ja kokemuksia hän on pohdintojaan varten kerännyt erilaisista lähteistä nykytutkimuksesta ja filosofien viisauksiin.
Tekoälytekniikka tarjoaa meille uudenlaisia mahdollisuuksia kehittää ajatteluamme, parantaa kommunikointia ja ratkaista mahdottomalta näyttäneitä ongelmia. Samaan aikaan se on suuri riski, varsinkin nykyisellään, kun sen kehitys on voittoa ja johtavaa markkina-asemaa tavoittelevien yritysten ja niitä johtavien tekno-oligarkien käsissä. Lainsäädäntö ei ole pysynyt kehityksen perässä alkuunkaan, ja tekoälystä on tullut tuntematon musta laatikko, jonka sisällöstä, tavoitteista ja toimintaperiaatteista emme tiedä juuri mitään.
Alastalo vertaakin tilannetta kahteen Koreaan: 50 vuoden kuluttua meillä voi olla avoin, demokraattinen yhteiskunta, tai voimme olla kansalaisia orjuuttavassa sotaisassa diktatuurissa. Voimme tehdä hallaa myös itse itsellemme, jos ulkoistamme ajattelumme koneelle. Tällöin käyttäjän oma oppiminen, kehitys ja oivallukset uhkaavat jäädä välistä. Ihminen ei ole koskaan täysin ymmärtänyt keksintöjensä vaikutuksia ekosysteemeihin. Tämä keksintö ei tule vaikuttamaan vain ekosysteemeihin, vaan myös ihmisen omaan henkiseen hyvinvointiin ja koko yhteiskuntaan. Nähtäväksi jää, millä tavoin..
Alastalon kirja oli mielenkiintoinen ja monipuolinen, mutta kokonaisuus jäi väistämättä hiukan hajanaiseksi, sillä aihe on mahdottoman laaja ja tulevaisuus vaikeasti ennustettava. Yllättäen kirja ei kuitenkaan ole ollenkaan vaikeaselkoinen, vaikka aihe on hyvin tekninen ja visiot välillä hyvinkin korkealentoisia. Kokonaisuutena tämä on siis mainio perusteos kenelle vain aiheesta kiinnostuneelle, joka ei halua lukea pelkkää suitsutusta tai pelkkää tuomiopäivän rummutusta.
Erinomaisen tärkeä kirja. Olen jo pitkään ollut tuskastunut AI-hypeen, joka ohittaa monia tärkeitä kysymyksiä. Musta laatikko nostaa pinnalle hyvin perustavanlaatuista filosofista pohdintaa siitä, miten uusi teknologia asettuu osaksi ihmisen toimintaa ja mikä rooli sille annetaan. Teos tutkailee aihetta etäisyydeltä, sitoo sitä historiallisiin konteksteihin ja välttelee jyrkkiä kannanottoja. Näin on hyvä, sillä tekoäly on osa pidempää jatkumoa ihmisen ja teknologian vuorovaikutuksessa. Aihe ei ole yksinkertainen, eikä sitä pidä sellaiseksi yrittää sorvata.
Monet kysymykset leijuvat ilmassa vielä kirjan lukemisen jälkeen. Selkeydessään kirja on erinomaista luettavaa aivan kaikille tekoälystä ja nykyteknologiasta kiinnostuneelle. Kirjassa on hyödynnetty lukuisia haastatteluja, ja ainoa selkeä miinukseni koskee sitä, että haastateltavat yleensä esitellään vain kerran. Pääasiassa he kuitenkin esiintyvät pitkin kirjaa, joten aina ei heti palaudu mieleen mikä oli kenenkin rooli ja asema. Siksi joku lunttiluettelo haastatelluista ammattilaisista olisi voinut olla ihan paikallaan.