Traficomin Kyberturvallisuuskeskus julkaisi hiljattain oivallisen kirjoituksen tapauksista, joissa tekoälyjärjestelmät ovat turvallisuustesteissä toteuttaneet tietomurtoja muistuttavia toimia. Lukusuositus! Mielestäni kirjoitus välttää hyvin sen tavanomaisen mantran, jota julkisessa keskustelussa toistetaan: ”haluaako” tai ”päättääkö” tekoäly jotain.
Kirjoituksen pointti on tavanomaista osuvampi. Sen mukaan turvallisuus ei ole mallin ominaisuus, vaan koko järjestelmän ominaisuus. Lopputulokseen vaikuttavat mallin lisäksi sille annetut työkalut, käyttöoikeudet, eristys, valvonta ja toimintavapaus. Sama malli voi olla vaaraton tiukasti rajatussa ympäristössä ja toisaalta aiheuttaa vahinkoa, jos sille on annettu laajat oikeudet ilman valvontaa.
Tämä kuulostaa auditoijalle kovin tutulta
Kun luin Kyberturvallisuuskeskuksen listan keskeisistä suojakeinoista, se oli tuttuakin tutumpaa. Käyttöoikeuksien rajaaminen, järjestelmien eristäminen, lokitus, toiminnan seuranta, ihmisen hyväksyntä kriittisissä vaiheissa — nämä ovat samoja kontrolleja, joita olen arvioinut asiakkaiden hallintajärjestelmissä. Ne ovat tietoturvan hallintajärjestelmän peruskalustoa, eivätkä tekoälyajan tuotosta.
Tästä voinee vetää johtopäätöksen: tekoäly ei vaadi suuresti uutta turvallisuusfilosofiaa, vaan vanhat lainalaisuudet pätevät, uusin maustein. Tämä nostaa vanhojen kontrollien merkityksen aiempaa ratkaisevammaksi.
Kun järjestelmälle annetaan enemmän toimintavapautta, virheen seuraukset kasvavat ja niiden nopeus kasvaa. Kontrollit, joiden puuttumisesta on ennen selvitty säikähdyksellä, alkavat maksaa.
Mitä itsenäisempi järjestelmä, sitä tarkemmat rajat
Olen törmännyt jo muutaman kerran oletukseen, että kun järjestelmä on viritetty riittävän älykkääksi, se osaisi myös valvoa omaa turvallisuuttaan. Ei osaa.
Järjestelmän älykkyys ja hallittavuus ovat eri asioita. Mitä itsenäisemmin järjestelmä toimii, sitä tarkemmin sen ympärille pitää rakentaa ne rajat, joiden sisällä toiminta pysyy — ja sitä tärkeämmäksi käy kyky nähdä lokeista ja monitoroinnista, mitä oikeastaan tapahtui. Unohtamatta toki poikkeamien havainnointikykyä, eli miten saat tietoosi mahdolliset poikkeamatilanteet.
Käyttöoikeus, jota kukaan ei ole rajannut, on riski riippumatta siitä, käyttääkö sitä ihminen, skripti vai agentti. Ero on siinä, kuinka nopeasti ja kuinka laajalti rajaamaton oikeus ehtii tuottaa vahinkoa. Tekoäly kaventaa tuota reaktioaikaa merkittävästi.
Käytännön kysymyksiä ovat nämä: oletko rajannut tekoälyn käyttöoikeudet, eristänyt sen ympäristön ja järjestänyt valvonnan niin, että toimintavapaus pysyy niissä rajoissa, jotka olet itse asettanut?
Jos vastaus on kunnossa perinteisten järjestelmien osalta, sinulla on jo hyvä pohja turvalliseen tekoälyn kanssa toimimiseen. Jos ei, tekoäly tekee puutteista näkyvämpiä nopeammin kuin haluaisit.
Pohjimmiltaan riski syntyy kahdesta asiasta. Siitä, kuinka laajalle tekoälyn oikeudet yltävät ja kuinka nopeasti se ehtii niitä käyttää. Kontrollit rajaavat molempia.
Ville Koskinen
COO & Lead Auditor
Lue myös muita tekoälyaiheisia kirjoituksiani: https://intosecurity.fi/tag/tekoaly/