Tekoälyn manipulointi ja turvallisuus – kenen pitäisi olla kiinnostunut?

Tekoäly tukee liiketoimintaa tuomalla päätöksiin tietoa ja mahdollistamalla ennakoinnin. Tekoälyyn liittyy myös riskejä: muiden tietoteknisten järjestelmien lailla se on otollinen kohde mahdollisille hyökkäyksille. Sitä voidaan johtaa harhaan tai sen kautta voidaan urkkia yrityksen tietoja. Liiketoiminta saa parhaan hyödyn tekoälystä, kun toteuttajien lisäksi myös yrityksen ylin johto ja hallitus ymmärtävät tekoälyn mahdollisuuksien ja uhkien tasapainon.

Tekoälyn mahdollisuudet ovat kiinnostaneet minua kauan, alkaen opinnoista joskus viime vuosituhannella aina tämän päivän hallitusrooliini Houston Analyticsilla. Tekoälyn soveltamisessa näen tapahtuvan vastaavan
kehityksen kuin muissakin liiketoimintaa radikaalisti muovaavissa innovaatiossa: sen rooli muuttuu erillisestä teknologiasta kiinteäksi osaksi varsinaista liiketoimintaa. Muutoksen voimaan vaikuttaa onnistunut ajoitus.

Usein yritykset aloittavat kuitenkin tekoälyn käyttämisen irrallisista kokeiluista ilman kytkentää liiketoimintaan tai todellista muutostavoitetta. Osaamisen hankkiminen koetaan haasteeksi, ja jos sitä löytyy, osaajat saattavat jäädä omaksi saarekkeekseen organisaation sisälle vailla todellista mahdollisuutta saada aikaan näkyvää muutosta.
Nämä ovat mielestäni tekoälyn kasvukipuja päättäjien yrittäessä hahmottaa sen todellisia mahdollisuuksia yrityksen älykkyyttä lisäävänä voimana.

Tekoälyn rooli täytyy hahmottaa myös strategisella tasolla, jotta kehitys saadaan suunnattua oikein. Kyse on laajamittaisesta muutoksesta yritysten tapaan toimia ja hyödyntää tietovarantojaan. Laajat muutokset eivät onnistu asiaan perehtyneiden yksilöiden tai yksittäisten organisaation osien voimilla ilman ylimmän johdon sitoutumista sekä yhteistä ymmärrystä tavoitellusta suunnasta.

Tekoälyä tutkitaan ja se on teemana myös monien innovaatiohankkeiden kohteena. Esimerkiksi Airbusin vetämä ITEA-hanke Cyberfactory#1 tutkii tekoälyn mahdollisuuksia ja uhkia tulevaisuuden tehdasympäristöissä. Projektin viimeisimmän webinaarin teemana oli tekoälyn manipulointi uhkana. Linkki webinaaritallenteeseen on artikkelin lopussa.

Tekoäly muuttaa päätöksentekoa
Tekoäly näkyy jo yritysten monissa toimintaa ohjaavissa päivittäisissä prosesseissa. Se muuttaa päätöksentekoa radikaalilla tavalla: mallien tekemät luokittelut itseasiassa ovat päätöksiä, jolloin kontrolli on tekoälyllä. Päätökset nopeutuvat, ja niiden laatukin tasaantuu. Tämä luo uuden kohteen mahdollisille hyökkääjille, jotka etsivät tapoja vaikuttaa päätöksiin.

Tekoäly mahdollistaa passiivisten tietovarantojen hyödyntämisen kokonaan uudella tavalla. Datasta voidaan luoda tietämystä opettamalla tekoälymalli sen avulla. Näin dataan sisältyvät ominaisuudet tulevat organisaation käyttöön ja opittu tieto lisää tehokkuutta tai ennakointikykyä.

Tekoäly kohtaa useissa yrityksissä myös asiakkaat ensimmäisenä. Se luo asiakkaalle mielikuvan yrityksen kyvystä vastata asiakkaan tarpeisiin. Siksi sen kyky hoitaa roolinsa on yhtä kriittinen kuin perinteisen asiakaspalvelun. Tekoäly on siis strateginen elementti, joka vaikuttaa läpi yrityksen eri prosessien. Vaikka tekoäly ei vastaa kaikista päätöksistä, sen luokittelut ja ennusteet ohjaavat useita kriittisiä prosesseja, jotka taas vaikuttavat yrityksen toimintaan laajasti.

Neljä erilaista tapaa häiritä AI-ratkaisua.

Tekoälyratkaisun heikot kohdat ovat rajapinnoissa
Tekoälyratkaisu on osa yrityksen normaalia infrastruktuuria. Kuten muidenkin integroitujen tietoteknisten ratkaisujen osalta, sen turvallisuutta arvioitaessa on syytä tunnistaa kohdat, joissa siihen voidaan vaikuttaa ulkoisesti. Erityisen kiinnostavan vaikuttamisen kohteen tekoälyratkaisusta tekee sen merkittävä rooli päätöksentekoprosessien osana.

Tekoälyratkaisu elää saamastaan datasyötteestä. Data ja sen lähteet muodostavat luonnollisen haavoittuvuuden, jossa hyökkääjä voi yrittää vaikuttaa prosessin toimintaan. Kaikkea vaikuttamista ei voida ennalta estää, siksi tarvitaan myös aktiivisia keinoja prosessin toimiessa. Hyökkäysmalleja on neljä pääryhmää: myrkytys, väliintulo, uuttaminen ja hämäys.

Mallin myrkyttäminen johtaa väärään oppimiseen. Hyökkääjä tuntee tällöin opetusdatan lähteet ja voi saastuttaa sen vääristetyllä aineistolla. Tavoitteena on muuttaa mallia oppimisvaiheessa. Sen avulla hyökkääjä pyrkii muuttamaan mallin ohjaamaa prosessia välillisesti. Mallin kehittäjän on hahmotettava datan puhtaus ja luotettavuus: mistä data muodostuu ja mitkä tekijät ovat voineet vaikuttaa sen sisältöön. Puhtauden kannalta on olennaista ymmärtää, miltä manipuloimaton data näyttää ja mikä on sallittu vaihteluväli sen arvoissa.

Väliintulo mahdollistaa yrityksen tietojen paljastamisen. Kun malli opetetaan sisäisen ja julkisen datan yhdistelmällä, hyökkääjä voi käyttää omaa luokittelijaa julkiseen dataan ja siten päätellä yrityksen sisäisen datan ominaispiirteitä. Tämän mahdollistaa sisäisen ja ulkoisen datan tilastollinen korrelaatio. Usein ulkoista dataa on myös enemmän käytössä, mikä vain vahvistaa korrelaatiota ja parantaa näkyvyyttä sisäiseen dataan. Väliintulohyökkäystä voidaan vaikeuttaa minimoimalla julkisen datan käyttöä sekä rikkomalla tilastollista korrelaatiota aineistojen välillä.

Uuttaminen tuottaa tietoa käytetystä mallista. Siinä hyökkääjän tavoitteena on ymmärtää mallin toiminta ja sen avulla joko luoda mallista kopio omaan käyttöön tai koostaa näkymä alkuperäiseen malliin käytetystä opetusdatasta. Mallin kopio antaa hyökkääjälle näkymän yrityksen liiketoimintamalliin tai toimintaan, joka on mallin ohjauksessa.
Hyökkäykset tapahtuvat avoimiksi jääneiden rajapintojen kautta. Käyttöoikeuksia ja rajapintojen käyttöä kannattaa seurata, jotta mahdolliset poikkeamat havaitaan ajoissa.

Hämäyshyökkäys puolestaan aiheuttaa harhoja tekoälymallille. Mallia hämätään syötteellä, johon on lisätty luokittelun epäonnistumisen aiheuttavia piirteitä. Tämä on mahdollista, kun malli on vuorovaikutuksessa ulkoisen syötteen kanssa. Lisätyt piirteet voivat olla ihmiselle mahdottomia havaita, esimerkiksi taustalle lisätyt korkeataajuiset äänet tai kuvassa mallia hämäävät lisäkuviot. Suojautuminen edellyttää syötteen ominaisuuksien ja normaalien vaihteluvälien tuntemista. Myös mallin reagointi äärisyötteisiin on syytä hahmottaa. Syötettä voidaan myös esikäsitellä toisella poikkeavuudet tunnistavalla mallilla.

AI:n omaksumisasteita organisaatioissa.

Älykkäämpien yritysten rakentaminen jatkuu
Tietoisuus tekoälyn strategisesta merkityksestä on vähitellen nousemassa yrityksissä. Tosin tässä siirtymävaiheessa edelleen kuulee kommentteja, että tekoäly on vain yksi teknologia muiden joukossa. Se toki pitää paikkansa, tekoäly on teknologia. Sillä on kuitenkin erityinen piirre: kyky muuntaa yrityksen tietovarannot toimintaa ohjaavaksi osaamiseksi ja jatkuvan oppimisen kautta tuottaa kumulatiivista hyötyä. Eristettynä varsinaisesta toiminnasta ja prosesseista tekoäly voi jäädä sarjaksi kokeiluja ja yksittäiseksi tekniseksi tavaksi toteuttaa perinteisiä prosessin vaiheita. Oikein hyödynnettynä se taas tuottaa kumulatiivista hyötyä, joka on strateginen tekijä yritykselle.

Ajatus tekoälystä osana strategiaa sai minut yhdessä kollegani Colin Shearerin kanssa aloittamaan artikkelien sarjan, jonka päämääränä on koostaa aiheesta kirja. Etenemistämme ja uusia artikkeleitamme aiheesta voi seurata LinkedIn-ryhmässä: ” Building Smarter Businesses: Guidance for company leaders on adopting and succeeding with AI”.

Tavoitteenamme on avata tekoälyn strategista roolia yritysten johdon näkökulmasta ja tuoda esille tekoälyn mahdollisuuksia ja haasteita, kun yrityksistä tahdotaan tehdä entistä älykkäämpiä.

Lisää aiheesta:
Building Smarter Businesses: Guidance for company leaders on adopting and succeeding with AI
https://www.linkedin.com/groups/9050394/
Resilience Capabilities for the Factory of the Future
https://www.cyberfactory-1.org/blog/webinar-resilience-capabilities/