Selkoäly palauttaa luottamuksen

Viime aikoina koneoppimista hyödyntävät ratkaisut ovat alkaneet yleistyä suomalaisen yrityselämän valtavirtaan. Investoinnit kaksinkertaistuvat vuosittain. Olemme eCraft Business Insightilla päässeet tekemään hankkeita maan parhaimpien yritysten kanssa. Kiitollisina etuoikeutetusta asemastamme, haluamme kertoa, mitä kaikkea olemme oppineet kulissien takaa. Nämä opit jaoin hiljattain tuoreimmassa Tietoasiantuntija-lehdessä, jonka teemana on “Luottamus ja etiikka tekoälyn aikakaudella”.

Mustan laatikon kirous

Kulissien takaa löytyy ongelma. Ei Nick Bostromin superäly-ongelma, ei Yuval Noah Hararin tekoälytyöttömyys, ei Max Tegmarkin ihmisyyden identiteettikriisi, ei Cathy O’Neilin tekoälysyrjintä eikä edes itseohjautuvien autojen eettinen törmäilydilemma. Mitkään näistä eivät ole todellisia ongelmia suomalaisessa yhteiskunnassa, ainakaan juuri nyt.

Ongelma on mustan laatikon kirous.

Muistan hyvin kahden vuoden takaa erään suuryrityksen myyntijohtajan avautumisen projektin loppukatselmoinnissa esitellessämme heille kehitettyä koneoppimisen klassikkoa:

”Onhan tämä ihan kiva, mutta kuvittele sitä meidän myyntiedustajaa asiakkaan tuulikaapissa matkalla tapaamiseen. Mitä hänen pitäisi tehdä kuullessaan algoritmilta, että asiakkaalla on 68 % poistumariski? Eihän hän voi avata keskustelua asiakkaan kanssa toteamalla, että ”Skynet” juuri ilmoitti minulle näin, vaan hän tarvitsee jotain konkreettisempaa, johon tarttua.”

Avasin suuni, mutta en löytänyt sanoja. Ymmärsin tuolloin, että tarinastamme puuttui jotain.

Projektit kuitenkin seurasivat toisiaan. Koneoppimismallimme alkoivat ennustaa suomalaisten yritysten konkursseja, pörssikursseja ja työkyvyttömyyksiä sekä optimoida tuotteiden hintoja ja kuljetuslogistiikkaa, lajitella hankintoja ja suositella paljunkansia. Ongelma ei kuitenkaan poistunut. Ilmassa leijui joka neuvotteluhuoneessa sama kysymys: miten tuohon mustaan laatikkoon oikein voi oppia luottamaan ja millä perusteella se on tehnyt minkäkin päätelmän?

Perustelut näkyviin

Ongelmaan onneksi herättiin ajoissa. Tutkijat tutkivat ja yritysjohto vaati parempaa. PwC:n teettämän tutkimuksen mukaan nykyisin jopa 61 % yritysjohtajista haluaa koneoppimisratkaisuihinsa läpinäkyvyyttä ja selkokielisiä perusteluja. Onneksi tämä on nyt mahdollista. Melkein jopa helppoa.

Millaisia ovat hyvät perustelut?

Moni koneoppimisen asiantuntija on kuitenkin harhapoluilla - pyrkien hyvään - mutta tarjoten täysin vääränlaisia selityksiä. Psykologiset tutkimusten mukaan ihmiset tyypillisesti kokevat perustelut hyviksi ja hyödyllisiksi, jos ne ovat:

  • tarkasti valikoituja eli korostavat vain olennaisimpia asioita

  • riittävän kattavia eli tarjotut perustelut selittävät ilmiön enimmissä määrin

  • suhteutettuja vertailutasoon eli antavat perustelun ”miksi A eikä B”

  • selkeitä ja vastaanottajan ymmärrystasoon suhteutettuja

  • sosiaalisia eli mahdollistavat tarkemman keskustelun aiheesta

  • johdonmukaisia eli eivät ristiriidassa vastaanottajan uskomusten kanssa.

Esimerkiksi asuntojen hintoja arvioidessa hyvä koneoppimisratkaisu ei nykypäivänä enää tyydy pelkkään hintaennusteeseen, vaan se antaa asuntolainan neuvotteluun selkeät perustelut:

“Asunnon arvioitu markkinahinta on 320 000 euroa ja sen ennustetaan kasvavan viisi prosenttia vuoteen 2021 mennessä. Asunnon hintaa nostavat hyvä kunto, ylin kerros ja merinäköala. Arvon ennustetaan kasvavan, koska alueen työllisyys on hyvä ja vastaavien kohteiden myyntiajat ovat lyhentyneet. Arvon kehitystä kuitenkin hidastaa kansantalouden heikot talousnäkymät.”

Tyypilliset tiedon vastaanottajat eivät yleensä ole kiinnostuneita kuulemaan yksityiskohtaista selontekoa päättelymekanismin toiminnasta. Lääkäriltä ei kysytä, miten hänen aivokuorensa neuroverkko päätteli influenssadiagnoosin eikä pörssikommentaattoreilta kysytä mekanismeista, joilla globaalit osakemarkkinat toimivat. Hyväksi perusteluksi pörssikurssien nousulle joskus riittää vain karkea yksinkertaistus siitä, että Yhdysvaltain presidentti teki yllättävän diilin Kiinan kanssa.

Miten selkoäly toimii?

Selkoäly (englanniksi Explainable AI) on aktiivisen tutkimuksen kohde. Tällä hetkellä parhaana ratkaisumallina suosimme menetelmää, jossa varsinainen koneoppimismalli kehitetään tekemään mahdollisimman hyviä ennusteita ja sen rinnalle lisätään erillinen selkoäly-moduuli. Tämä ratkaisumalli on toiminut ällistyttävän hyvin, koska näin voidaan maksimoida sekä perustelujen hyödyllisyys vastaanottajalle että ennusteiden tarkkuus ja luotettavuus.

Kyseinen ratkaisumalli sai yllättäen inspiraation jo 1970-luvulla tehdystä - ja myöhemmin Nobel-palkitusta - neuropsykologian tutkimuksesta, jossa paljastui, että ihmisaivoistakin löytyy konseptuaalisesti erillinen left brain interpreter -selittäjämoduuli, joka perustelee ja rationalisoi aivoituksemme, isolla pensselillä ja hieman yksinkertaistaen, vaikka ei näitä päätöksiä itse teekään. Kukaan ei pysty oikeasti selittämään, millä mekanismilla aivoni tunnistaa tyttäreni kasvot tai miksi päädyin nykyiseen työpaikkaani. Mutta jos minulta näitä kysytään, vasemman aivolohkoni selittäjämoduuli kyllä astuu esiin ja antaa täysin uskottavat perustelut.

Vuoden tärkein koneoppimisen trendi

Koska kyseiset explainable AI -menetelmät ovat reaalimaailmassa äärimmäisen tärkeitä ja käytännöllisiä, mutta tähän viittaava sana puuttui suomen kielestä, päätimme ristiä nämä menetelmät selkoälyksi, jotta niistä voitaisiin puhua ja jotta niitä osattaisiin paremmin vaatia. En tiedä päätyykö termi koskaan kielitoimiston hyväksymäksi, mutta viime kuukausien asiakaskohtaamisten perusteella rohkenen väittää ja toivoa, että näiden kiehtovien menetelmien tarjoamat selkokieliset perustelut nousevat vuoden tärkeimmäksi koneoppimisen trendiksi. Kun näin käy, meillä kaikilla on vielä erinomainen mahdollisuus palauttaa luottamus ja läpinäkyvyys tälle koneoppimisen aikakaudelle. Ja sitä maailma tarvitsee nyt enemmän.

Artikkeli on alunperin julkaistu Tietojohtaminen ry:n Tietoasiantuntija-lehden vuoden ensimmäisessä numerossa (01/2019).