Mitä kunnan tulee huomioida hankinnoissa ja sopimuksissa sen käyttöönottaessa tekoälyä?
Kun kunta hankkii tekoälyjärjestelmää, hankinnan kohteen määrittely ja hankintamenettelyn toteuttaminen saattaa vaikuttaa hankalalta. Tekoälyjärjestelmä on kuitenkin hankinnan kohde muiden joukossa, ja markkinoilla on jo laajasti saatavilla erilaisia vaihtoehtoja ja niiden tarjoajayrityksiä. Jos tekoälyjärjestelmää hankkii ensimmäisen kerran, markkinatuntemus ja markkinavuoropuhelun käymisen merkitys korostuvat.
Hankinnassa on oleellista tunnistaa, missä roolissa kunta toimii sekä mikä on tekoälyjärjestelmän riskiluokitus. Tekoälyasetuksen mukainen roolitus määrittää erilaisia velvollisuuksia eri rooleille. Usein kunnan katsotaan ostajana olevan käyttöönottajan roolissa. Rooli saattaa kuitenkin olla esimerkiksi myös tarjoajan rooli, jos kunta osallistuu järjestelmän kehittämiseen. Myös järjestelmän riskiluokitus määrittää toimijoille erilaisia velvollisuuksia. Jos kyse on ns. suuririskisestä järjestelmästä, tekoälyasetuksessa tarjoajan rooliin kuuluu esimerkiksi suuririskisen järjestelmän rekisteröinti EU-tietokantaan ja riittävien käyttöohjeiden ja tietojen toimittaminen käyttöönottajalle. Kun kunta hankkii suuririskistä järjestelmää, sen tulee varmistaa, että se saa järjestelmän mukana tiedon CE-merkinnästä sekä järjestelmän käyttöohjeet ja että se toimii saatujen käyttöohjeiden mukaisesti. Suuririskisten järjestelmien käyttöönottajina toimivien kuntien on myös rekisteröidyttävä EU-tietokantaan.
Kun kunta suunnittelee tekoälyjärjestelmän hankintaa, sen on riittävän aikaisessa vaiheessa huolehdittava laissa säädettyjen erilaisten arviointien toteuttamisesta. Näin esimerkiksi järjestelmän käyttöön liittyvät riskit tunnistetaan ja niihin pystytään puuttumaan tarvittavin toimenpitein.
- Jos kyse on suuririskisestä järjestelmästä, kunnan on ennen käyttöönottoa suoritettava tekoälyasetuksen edellyttämä perusoikeusvaikutusten arviointi. Arvioinnin tulokset on ilmoitettava toimivaltaiselle viranomaiselle.
- Jos järjestelmässä käsitellään henkilötietoja, suuririskisen järjestelmän käytöstä on todennäköisesti tehtävä tietosuoja-asetuksen mukainen tietosuojaa koskeva vaikutustenarviointi. Edellä mainittu perusoikeusvaikutusten arviointi voidaan suorittaa tietosuojaa koskevan vaikutustenarvioinnin yhteydessä.
- Jos kyse on tiedonhallintamallin sisältöön vaikuttavasta olennaisesta hallinnollisesta uudistuksesta tai tietojärjestelmän käyttöönotosta, kansallisen tiedonhallintalain mukaan on laadittava muutosvaikutustenarviointi.
- Kunnassa on huolehdittava myös muun muassa siitä, että suuririskisen järjestelmän toimintaa valvovat riittävän osaavat henkilöt ja että järjestelmään syötettävät tiedot ovat asianmukaisia ja edustavia.
Sopimuksissa määritetään lainsäädännöstä johtuvat osapuolten vastuut ja velvoitteet. Tekoälyn yhteydessä keskeiset sovittavat asiat liittyvät myös esimerkiksi dataan ja sen käyttöön liittyviin oikeuksiin. Lisäksi on tarvittaessa huomioitava henkilötietojen käsittelystä sopimiseen liittyvät tietosuoja-asetuksen velvoitteet.
Lausekkeet perustuvat Amsterdamin kaupungin vuonna 2018 laatimiin algoritmisten järjestelmien hankintaa koskeviin vakiolausekkeisiin. Lausekkeiden osalta on kuitenkin huomattava, että kyse on luonnoksesta tekoälyasetuksen hyväksymistä edeltävältä ajalta ja että se sisältää ainoastaan ehdotetun tekoälyasetuksen soveltamisalaan kuuluvia asioita koskevia määräyksiä. Kyse ei ole EU:n virallisesta asiakirjasta eikä se heijasta Euroopan komission virallista kantaa.
Lisätietoa Public Buyers Communitystä löytyy komission verkkosivuilta.