- Kuuluuko tekoälyratkaisu tietoturvallisuuden arvioinnin laajuuteen?
- Mitä tietojärjestelmätuottajan tulee huomioida, kun se ottaa tekoälyn käyttöön järjestelmässään?
- Mitä tietojärjestelmätuottajan pitäisi selvittää ennen tuotantokäyttöä?
SOTE ATK-päivillä kävi selväksi, että lähes jokainen tietojärjestelmätuottaja oli jo ottanut käyttöön tai suunnittelemassa tekoälyn, kuten generatiivisen tekoälyn ja kielimallien, hyödyntämistä osana järjestelmäänsä. Myös Astori-rekisteristä on jo löydettävissä tietojärjestelmiä, jotka hyödyntävät tekoälyä.
Tietojärjestelmän käyttötarkoitus voi perustua tekoälyyn tai se voi hyödyntää integraatioiden kautta kolmannen osapuolen palveluita, jotka hyödyntävät tekoälyä. Tekoälyn on tarkoitus tehostaa sote-ammattilaisten työtä ja tätä kautta tuoda kustannussäästöjä sote-palvelunantajille.
Viranomaisilta ei ole toistaiseksi tullut tarkentavaa ohjeistusta siitä, miten tietojärjestelmätuottajien tulisi huomioida tekoälyn käyttö olennaisten vaatimusten täyttymisessä. Tämä on aiheuttanut tilanteen, jossa tietojärjestelmätuottajat tulkitsevat eri tavalla, kuuluuko tekoäly osaksi tietojärjestelmää ja miten vaatimuksia tulisi tulkita.
Tekoäly kuuluu yleensä arvioinnin laajuuteen
Olennaisten vaatimusten tarkoituksena on suojata kansalaisten arkaluonteisia asiakas- ja potilastietoja, ei pelkästään asiakirjamuodossa käsiteltäviä tietoja. Tietovuotojen seuraukset ovat yhtä vakavat, olipa kyse asiakirjoista tai muussa muodossa olevista potilastiedoista. Se, missä muodossa tietoa käsitellään ja tallennetaan, vaikuttaa järjestelmän luokitteluun, mutta ei arvioinnin laajuuden määrittelyyn.
Jos tekoälyä hyödynnetään sosiaalihuollon asiakastiedon tai terveydenhuollon potilastiedon tuottamisessa, analysoinnissa tai käsittelyssä, sisältyy tekoälyn tarkastaminen arvioinnin laajuuteen.
Olennaiset vaatimukset kohdistuvat tietojärjestelmiin, jotka muodostuvat kokonaisuuksista, eivät yksittäisistä teknologioista. Tekoäly on yleensä osa tietojärjestelmää, sen integraatioita tai alihankintaketjua, joten sitä arvioidaan samoja vaatimuksia vasten kuin muitakin järjestelmän osia.
Tekoälyä hyödynnetään usein myös sovelluskehityksessä ja valvonnan tukena. Jos toiminnallisuudella on tarkoitus osoittaa vaatimustenmukaisuus, sen tarkastaminen kuuluu arvioinnin laajuuteen. Tyypillinen esimerkki tästä on se, kun sovelluskehityksessä halutaan parantaa lähdekoodin laatua ja välttää tyypillisimpiä virheitä, tai kun tekoälyä hyödynnetään tunnistamaan anomalioita, joiden avulla voidaan havaita käyttäjien, ylläpitäjien tai järjestelmän poikkeava toiminta.
Miten tekoäly huomioidaan perinteisen järjestelmän arvioinnissa
Kun kyseessä on tavanomainen järjestelmä, johon on lisätty tekoälyä hyödyntävä ominaisuus, lähtökohta on sama kuin muissakin muutoksissa. Ominaisuus tulee kuvata järjestelmälomakkeeseen eli siihen, mihin vaatimuksiin sillä on vaikutusta.
Tärkeintä on tunnistaa, mikä komponentti on kyseessä, mikä sen käyttötarkoitus on, mitä tietoja sillä käsitellään ja missä tiedonkäsittely tapahtuu.
Myös ilmoitusvelvollisuus on hyvä muistaa. Asiakastietolaki (703/2023, 82 §) velvoittaa ilmoittamaan olennaisiin vaatimuksiin vaikuttavista muutoksista, ja tekoälyominaisuuden hyödyntäminen asiakas- ja potilastietojen tuottamisessa, luomisessa, analysoinnissa ja käsittelyssä on tyypillisesti juuri tällainen muutos.
Jos muutoksista ei ilmoita ja järjestelmä ei täytä vaatimustenmukaisuutta, on kyseessä merkittävä poikkeama, josta tietojärjestelmätuottaja on velvollinen ilmoittamaan Lupa- ja valvontavirastolle.
Suosittelen olemaan yhteydessä arviointilaitokseen matalalla kynnyksellä, jotta muutosarvioinnin tarve tunnistetaan ajoissa ja vältytään tuotantokäytön viivästymiseltä sekä merkittäviltä poikkeamilta.
Muutosilmoitus tehdään Lupa- ja valvontavirastolle sekä A-luokan järjestelmissä myös arviointilaitokselle ennen tuotantokäyttöä. Kaikki ilmoitukset eivät johda automaattisesti muutosarviointiin, vaan tarve arvioidaan tapauskohtaisesti. Lisätietoa ilmoitusvelvollisuudesta saat määräyksen 4/2024 liitteestä 2.
Seitsemän asiaa, jotka on hyvä selvittää
1. Tunnista tekoälyn käyttö ja sen käyttötarkoitus.
Tunnista, käsitelläänkö tekoälyllä asiakas- tai potilastietoja. Käyttötarkoitus ratkaisee vaatimukset. Avustaako ratkaisu ammattilaista vai tuottaako se sisältöä, joka päätyy asiakirjaan? Selvitä myös, miten käyttäjä tunnistaa tekoälyn tuottaman sisällön ja kuka tarkastaa sen ennen hyväksymistä.
2. Missä tiedonkäsittely tapahtuu.
Selvitä, missä ympäristössä tai palvelussa tietojen käsittely tapahtuu, mihin maahan käsittely sijoittuu ja minkä lainsäädännön alaisuudessa palveluntarjoaja toimii. Varmista sopimuksin, ettei asiakastietoja käytetä mallien opettamiseen tai muihin tarkoituksiin sekä ettei alikäsittelijöillä ole tietoihin pääsyä. Tekoäly tuo mukanaan myös uusia rajapintoja, joiden suojaus, salaus ja tunnistautuminen kuuluvat osaksi tietoturvavaatimuksia.
3. Yleiset hyökkäysmenetelmät.
Tunnista tekoälyyn liittyvät yleiset hyökkäysmenetelmät ja selvitä, miten niihin on varauduttu. OWASP:n kielimalli- ja agenttisovelluksia koskevat listaukset ovat hyvä lähtökohta uhkamallinnukselle.
4. Riippuvuuksien ja haavoittuvuuksien hallinta.
Mallit, kirjastot ja palveluntarjoajat muodostavat uuden riippuvuusketjun, jossa pelkkä mallin versiopäivitys voi muuttaa järjestelmän käyttäytymistä ilman muutoksia omaan koodiin. Määrittele, miten tekoälyn versiopäivityksiä, haavoittuvuustiedotteita ja muutoksia seurataan sekä miten tilanteissa toimitaan.
5. Käyttöoikeudet.
Selvitä, kenellä on oikeus käyttää ominaisuutta ja mitä tietoa tekoäly käsittelee. Tekoäly ei saa ohittaa järjestelmän käyttöoikeusrakennetta: käyttöoikeudet on tarkistettava ennen tiedon välittämistä. Jos ammattilaisella ei ole oikeutta nähdä tiettyä tietoa suoraan, hän ei saa saada sitä myöskään mallin tuottaman yhteenvedon kautta.
6. Jäljitettävyys ja valvonta.
Lokitiedoista on käytävä ilmi, kuka ammattilainen oli kyseessä, mitä toiminnallisuutta hyödynnettiin, milloin sekä kenen kansalaisen tietoja sekä mitä asiakas- tai potilastietoja käsiteltiin. Huolehdi myös siitä, miten valvontaa toteutetaan, kenen vastuulla se on ja määrittele, miten poikkeava toiminta tunnistetaan.
7. Regulaation seuranta.
Seuraa tekoälyä koskevaa sääntelyä, THL:n määräyksiä ja määrittelyitä. Tietojärjestelmätuottaja on aina loppukädessä itse vastuussa siitä, että järjestelmä täyttää sitä velvoittavat olennaiset vaatimukset.
Heidi Saikkonen
Päätarkastaja
Kiitos, kun luit artikkelini. Jos tekoälyratkaisu on järjestelmässäsi jo käytössä tai suunnitteilla, mahdollisen muutosarvioinnin tarve kannattaa selvittää ennen tuotantokäyttöä. Ota yhteyttä, niin käydään tilanne yhdessä läpi.
Lue myös blogisarjani, jossa käsittelen sote-tietojärjestelmien luokittelua, käsitteitä, vastuunjakoa ja arviointiprosessia →
Osa 1: Sote-järjestelmien luokittelu
Osa 2: Sote-tietoturvan käsitteet
Osa 3: Vastuunjako
Osa 4: Sote-tietoturvakartoitus
Osa 5: Modulaariset järjestelmät ja integraatiot
Osa 6: Rekisterinpitäjyys ja luovutusilmoitus