Autosta on polttoaine lopussa. Onneksi lähimmälle huoltoasemalle on matkaa vain muutama kilometri. GPS:n ohjeet johtavat kärrypolun kautta jyrkänteen reunalle. Kuski kertoo brittimedialle jälkikäteen, ettei hänellä ollut syytä epäillä navigointilaitettaan.   

En nyt ihan voi väittää, ettenkö olisi itsekin ollut vastaavanlaisessa tilanteessa, viimeksi lomareissulla Etelä-Euroopassa. Kun kreikkalaisperhe työnsi takapyörät ilmassa seisovaa vuokra-autoamme, mietin josko seuraavalla kerralla suunnistaisin algoritmin lisäksi näköhavaintojen perusteella.

Matemaatikko ja tietokirjailija Catherine O’Neil on yksi monista, joiden mielestä algoritmeilla on huomattavan suuri ote elämäämme. Pelkästään omia valintoja tarkastellessa on väitettä vaikea sivuuttaa. Netflix-sarjan katsottuani algoritmi suosittelee seuraavaa, johon suurella todennäköisyydellä myös tutustun. Sairastuessani reissussa luotan hakukoneeseen löytääkseni pätevän lääkärin.

Algoritmitaloudella on hyvät puolensa. Tarvitsemani tieto on useimmiten käden ulottuvilla lajiteltuna tärkeysjärjestykseen. Mutta kun haluan selvittää, kenen tekemään tärkeysjärjestykseen ja millä perusteella tärkeys määritetään, ollaan ongelman ytimessä. Aikana, jona tekoälyalgoritmit vaikuttavat lukuisten digitaalisten työkalujen taustalla, jopa niiden kehittäjien voi olla mahdotonta pilkkoa tulosten taustalla vaikuttavia tekijöitä osiin.

Mustalaatikko-ongelma on ilmeinen syväoppimiseksi kutsutun menetelmän kohdalla, joka on osoittautunut ylivoimaiseksi tiettyjen, tarkkaan rajattujen ongelmien ratkaisussa laskentakapasiteetin ja datan nopean kasvun seurauksena. Tällaisia ongelmia ovat esimerkiksi objektien tunnistaminen kuvista ja tekstin kääntäminen kieleltä toiselle. Löytääkseen vaikkapa kissan kuvasta, koneelle on syötettävä suuri määrä kuvia kissoista. Tämän perusteella algoritmi oppii tunnistamaan kissan kuvista ihmissilmää paremmin ja huomattavasti nopeammin.

Netflixin seuraavaan sarjasuositukseen johtaneen kaavan säilyminen mysteerinä ei maailmaa kaada, mutta kun algoritmi ohjelmoidaan asettamaan työnhakijat paremmuusjärjestykseen tai arvioimaan henkilön todennäköisyyttä rikosten uusimiseen, on tilanne toinen. Ongelmatapauksista on keskusteltu julkisuudessa lukuisia kertoja.

Taloustieteen Nobel-palkinnon työstään saanut Daniel Kahneman havainnollistaa kirjassaan Ajattelu, nopeasti ja hitaasti (Thinking Fast and Slow) ihmisen ajattelumallien ja päätöksenteon taustalla vaikuttavia puutteita ja vinoumia. Yleistämme pienestä evidenssistä. Nappaamme ympäristöstä vahvistusta omille mielipiteillemme puolueettoman tarkastelun sijaan. Kuvittelemme tekevämme päätöksiä rationaalisesti, mutta todellisuus on usein toista. Ajattelumallien taustalla vaikuttavat tekijät eivät anna meistä päätöksentekijöinä järin imartelevaa kuvaa.

Algoritmit yleistävät henkilökohtaiset ajatteluvinoumamme julkisiksi tuloksiksi, päätöksiksi ja suosituksiksi, ellemme kiinnitä asiaan aktiivisesti huomiota. Tässä suunnittelulla ja dataa koskevilla valinnoilla on tärkeä rooli. Mikäli nämä valinnat tehdään huolimattomasti, riskinä on, että vahvistamme tiedostamattamme epätasa-arvoa, tai muuten haitallisia, ylläpitäviä rakenteita. Eikä ongelma liity ainoastaan huolimattomuuteen. Se, että jokin asia on tilastollisesti totta ei tarkoita, että se on oikein. Sovellus ymmärrettävästi suosittelee pelkästään miehiä johtajapestiin, mikäli johtajat ovat historiallisesti olleet vain miehiä. Tämä ei tarkoita sitä, että tulevaisuudessa haluamme näin olevan.

Reiluuden ja läpinäkyvyyden varmistaminen ovat tekoälyn isoja haasteita. Yhtenä ratkaisuvaihtoehtona on kaikkien julkisen sektorin käytössä olevien algoritmien ja tietovarantojen vaatiminen avoimeksi. Lainsäädäntö ei kuitenkaan yksin riitä ratkaisemaan ongelmaa. Tarvitaan myös käytäntöjä ja työkaluja, jotka synnyttävät yksityiselle sektorille kannusteet tärkeiksi tunnistettujen periaatteiden seuraamiseen. Tässä ihmisillä tulee olemaan tärkeä rooli ohjelmistojen käytön opettelijoina, ongelmien tunnistajina, avoimuuden sekä algoritmien monitoroinnin vaatijoina, itseään koskevan datan hallinnoijina ja etenkin ohjelmistojen käytännön soveltajina.

Tekoälyn sijaan pitäisikin puhua ihmisen ja koneen yhteisälystä. Kone on hyvä käymään läpi suuria tietomassoja ja ratkaisemaan ennalta määriteltyjä kapeita ongelmia. Käyttäjän tehtävänä on pyrkiä ymmärtämään, millaisella tiedolla algoritmi opetettiin, mitä tuloksista voidaan päätellä, ja ehkä vielä tärkeämpää, mitä niistä ei voida päätellä. Lopulta opimme ehkä myös tunnistamaan ne tilanteet, joissa on syytä luottaa omaan vaistoon navigaattorin suosituksen sijaan.

Maria Ritola
Yrittäjä
Iris.ai-yrityksen perustaja