Tekoäly varhaiskasvatuksessa ja koulutuksessa - lainsäädäntö ja suositukset

1. Miten hyvin suositukset ohjaavat koulutuksen järjestäjiä ja opetushenkilöstöä tekoälyn käytössä ja hyödyntämisessä?

Opetushallitus pyytää lausuntoa dokumentista Tekoäly varhaiskasvatuksessa ja koulutuksessa - lainsäädäntö ja suositukset. Kuntaliitto pitää hyvänä, että tehdään kansalliset tekoälysuositukset koulutuksen ja opetuksenjärjestäjille. Niille on tarvetta, koska tekoäly on jo laajasti käytössä yhteiskunnassamme.

Kuntaliitto toteaa, että nyt lausunnolla oleva suositus on huomattavasti kiteytetympi, kuin aiemmin lausunnolla ollut kokonaisuus. Osa aiemmasta tekstistä ehdotetaan siirrettävän tukimateriaaleihin, mitä pidämme hyvänä ratkaisuna. Nykyinen versio on Kuntaliiton mielestä huomattavasti selkeämpi mutta suositusten rakenne kuitenkin vaatii mielestämme vieläkin selkeyttämistä. Kuntaliitto huomauttaa, että suurin osa suosituksista on kirjoitettu koulutuksen järjestäjää velvoittavaan kirjoituasuun, jolloin jää epäselväksi mikä kohta on velvoittava ja mikä on suositeltava. Paikoin jää myös epäselväksi mihin lainsäädäntöön yleiset periaatteet ovat sidottuja eli perustuvatko lainsäädäntöön. Epäselvyyttä aiheuttaa myös se, että joidenkin suositusten taustalla on kuitenkin jo velvoittavaa lainsäädäntöä. Lisäksi muutaman lainsäädännön nostaminen tekstiin esimerkin omaisesti jättää mielestämme turhia kysymysmerkkejä.

Kohdassa 1.2, suositus 3 edellytetään, että tekoälyn käytöstä on aina kerrottava. Kuntaliitto huomauttaa, että tekoälyä hyödynnetään enenevissä määrin päivittäisessä työssä taustalla esimerkiksi integroituna tietoteknisiin perustyökaluihin, eikä tällä useinkaan ole mitään käytännön merkitystä henkilöstön tai oppijan kannalta. Lisäksi avoimuus- ja läpinäkyvyysvaatimukset tulevat osin suoraan jo tekoälyasetuksesta. Opetushallituksen suosituksia olisi siksi syytä tarkentaa, missä tilanteissa tekoälyasetus velvoittamaan kertomaan tekoälyn käytöstä ja missä tilanteissa se ei ole välttämätöntä mutta silti suositeltavaa. 

2. Minkälaisia mahdollisia muutoksia ehdotatte suosituksiin?

Kuntaliitto edellyttää, että lopullisessa versiossa koulutuksen järjestäjää velvoittavat kirjaukset ovat velvoittavassa muodossa kirjoitettuna, kun taas suositukset ovat suosittavassa muodossa kirjoitettu.

Pidämme hyvänä ratkaisuna suunnata suositukset erikseen koulutuksen järjestäjille ja pedagogiseen käyttöön. Suositukset ovat myös varsin laajalle vastaanottajakentälle suunnattu. Kuntaliitto pohtii, onko mielekästä tai mahdollista istuttaa samat suositukset kattamaan kaikki koulutusasteet ja ikäryhmät varhaiskasvatuksesta ammatilliseen koulutukseen. Työelämään valmennettavien toisen asteen opiskelijoiden kohdalla niin käytettävät ohjelmistot, niiden käytön tarkoitus kuin tekoälylukutaidon tasokin ovat täysin erilaisia kuin pienillä lapsilla. Näin ollen myös henkilöstön ja koulutuksen järjestäjän tulokulma asiaan on varsin erilainen. Tarkennuksen voi tehdä esimerkiksi siten, että tässä suosituksessa olisi lyhyesti kommentoitu eri kasvatus- ja koulutusasteiden eroja ja että sisältöä tarkennettaisiin erikseen tämän suosituksen koulutusastekohtaisina liitteinä tai erillisinä koulutusastekohtaisina tarkentavina suosituksinaan.

Kohdassa 1.1.5 on viitattu koulutuksenjärjestäjän velvollisuuteen määrittää tekoälyjärjestelmien käyttöönoton prosessi ja vaatimukset. Tiedonhallinta-lain (13 §) ja tietosuoja-asetuksen mukaan tietojärjestelmien ja tietoaineistojen tietoturvallisuus on varmistettava koko niiden elinkaaren ajalta (ei vain käyttöönottovaiheessa). Tämä voisi olla hyvä huomioida tämän kohdan kirjauksessa. 

Kirjaus kohdassa 1.1.7 on epäselvästi kirjoitettu. Ilmeisesti kyse on siitä, että koulutuksenjärjestäjän tulee arvioida, mihin tekoälyasetuksessa määriteltyyn tekoälyjärjestelmien luokkaan kiinnostuksen kohteena oleva teko-älyjärjestelmä kuuluu. Sen jälkeen järjestäjän tulee arvioida, täyttääkö teko-älyjärjestelmä kyseiseen luokkaan liittyvät tekoälyasetuksen vaatimukset. Tekstiä kannattaisi päivittää tarvittavalta osin ymmärrettävyyden parantamiseksi.

Kuntaliitto ehdottaa, että kohtien 1.1.8-10 paikkeilla kannattaisi mainita, että koulutuksenjärjestäjän tulee varmistaa järjestelmien käytön riskienhallinta ja valvonta koko elinkaaren ajalta, ei vain käyttöönottovaiheen toimenpiteitä (vrt. Tiedonhallintalaki 13 § ja tietosuoja-asetuksen vaatimukset). Tähän liittyy myös riittävän valvonnan järjestäminen järjestelmille (vrt. Tiedonhallintalaki (4.2 § 5)). Samaan aihepiiriin liittyen, kannattaisiko kirjata tekstiin, että koulutuksenjärjestäjän tulee tunnistaa ne tekoälyjärjestelmään liittyvät tekoälyasetuksen, tiedonhallintalin ja tietosuoja-asetuksen mukaiset laatu-poikkeamat tai tietoturva- ja tietosuojaloukkaukset, jotka vaativat ilmoittamista viranomaisille, sekä varmistaa, että henkilöstöllä ja oppijoilla on riittävät edellytykset tunnistaa nämä tilanteet ja kertoa poikkeamahavainnoistaan henkilökunnalle tai koulutuksen järjestäjän edustajalle. Kannattaisiko väliotsikot “tietosuoja ja tiedonhallinta” nimetä huomioiden myös tietoturva eli ”tietosuoja, tietoturva ja tiedonhallinta”. Tällä korostettaisiin sitä, että salassa pidettävän tiedon käsittelyyn voi liittyä myös ns. ”ei henkilötietonäkökulmia”. 

Kohdassa 2.1.4 lukee, että käyttäjällä tulee olla ymmärrys käsiteltävien tietojen julkisuudesta ja salassapidosta sekä minkälaisissa järjestelmissä niitä on turvallista käsitellä. Kuntaliitto toteaa, että käyttäjillä tulee myös olla ymmärrys tiedon käsittelystä sen koko elinkaaren ajan, siitä alkaen, kun tietoa syötetään tekoälyjärjestelmään ja siihen, että tiedon käsittely järjestelmällä lopetetaan tai järjestelmä poistetaan tai arkistoidaan. Näin ollen ehdotamme, että kyseiseen kohtaan lisättäisiin virke, siitä, että ymmärryksen tulee kattaa tiedon ja tekoälyjärjestelmien käytön koko käytön elinkaaren.

3. Mitä muita huomioita teitte suosituksista?

Nykytilassa kunnilla ja koulutuksen järjestäjillä on suuri vastuu kantaa koskien tekoälyn käyttöä koulutuksessa. Kuntaliitto pohtiikin, onko tarkoituksenmukaista, että kaikki kunnat ja eri koulutuksen järjestäjät tekevät toisistaan erillään saman työn. Kansalliselta tasolta olisi toivottavaa saada kattavaa pohjadokumentaatiota ja kattavia sisältöesimerkkejä muun muassa

•        kohdassa 1.1.1 mainituista tekoälyn käytön linjauksista

•        kohdassa 1.1.2 mainituista tekoälyjärjestelmiä koskevista lainsäädännön velvoitteista ja niiden huomioimisesta käytännön toteutuksessa

•        kohdassa 1.1.5 mainitusta tekoälyjärjestelmien paikallisen käyttöön-oton ohjeesta 

•        kohdassa 1.1.8 mainitut tietosuojatarkistukset ja esimerkit dokumentaation sisällöstä sekä tarkistuslista, jonka avulla on helppo määrittää, vaaditaanko tekoälyjärjestelmästä tietosuojan vaikutustenarviointia tai ennakkokuulemista

Näihin pohjadokumentaatioihin olisi toivottavaa saada oheen ohjeistusta ja suosituksia ohjeiden käyttöön jalkautuksen tueksi koulutuksen järjestäjän tasolla. 

Kunnat ja valtio voisi saada synergiaetua siitä, että kansallinen taho tai viranomainen tekisi kuntien koulutuksenjärjestäjien tueksi laajasti ja yleisesti käytetyistä tekoälyjärjestelmistä yhteisiä, kansallisen tietoturvallisuuden tai tekoälyasetuksen vaatimustenmukaisuuden arviointeja tai tietosuojan vaikutustenarviointeja. Tämä voisi keventää koulutuksenjärjestäjien turhaa hallinnollista taakkaa, kun kaikki opetuksen- ja koulutuksen järjestäjät eivät yksitellen tekisi samaa työtä. Kuntaliitto toteaa, että tämä myös parantaisi koulutuksenjärjestäjien tasolla tehtävien arviointiosuuksien laatua ja yhden-vertaisuutta. Koulutuksen järjestäjän vastuulle jäisi kuitenkin päätös ja viimekätinen vastuu siitä, minkä tai mitkä järjestelmät ottaisivat käyttöön. 

Kuntaliitto toteaa, että on epärealistista olettaa, että jokainen koulutuksen järjestäjä kävisi isojen teknologiatoimittajien kanssa erilliset neuvottelut tai pystyisi vaikuttamaan heidän toimittamiin tekoälyjärjestelmiin. Siten tulisi pohtia, miten käytännössä on toteutettavissa esimerkiksi kohdassa 1.1.4 esitetyt koulutuksenjärjestäjän velvollisuudet suojata oppijoita mainonnalta. Samaan tapaan varsinkin suurten kansainvälisten järjestelmätoimittajien järjestelmien taustatietoja voi olla vaikeaa saada esiin tai käyttöön, vaikka kohdissa 1.1.6 ja 1.2.5 niin edellytetään (järjestelmien sisäisen valvonnan ja korjauskyvyn tietoja). Kansallisella tasolla tulisikin keskitetysti kaivaa tietyt olennaiset taustatiedot suurten järjestelmätoimittajien osalta kaikkien koulutuksenjärjestäjien käyttöön yhteisesti. 

Lisäksi kansalliselta tasolta tulisi määritellä yleisiin ja laajasti käytettyihin tekoälyjärjestelmiin liittyen kansallisia hankintaehtoja ja lausekkeita, jotka olisi sitten sovitettu yhteen markkinarealiteettien kanssa (mitä on tarjolla). Yksittäiset koulutuksenjärjestävät voisivat sitten hyödyntää näitä valmiita ehtolausekkeita omissa hankinnoissaan. 

Sama asia korostuu myös kohdassa 1.2.4, jossa on mainittu kestävän kehityksen tavoitteita. Niistä tarvittaisiin kansalliselta tasolta johdettuja sopimuslausekkeita, joiden yhteensopivuutta keskeisen markkinatarjoaman kanssa olisi jo tarkasteltu kansallisen viranomaistahon toimesta, jotta voitaisiin välttää tilanteet, joissa koulutuksenjärjestäjät pyrkisivät liittämään hankintoihinsa sellaisia kestävyysehtoja, joita palveluntarjoajat eivät pysty täyttämään. 

Kuntaliitto toteaa myös, että tekoäly vaatii jo nyky-yhteiskunnassa laajasti koulutuksessa toimivan henkilöstön tekoälylukutaitoa. Tämä vaatii koulutusta ja täydennyskoulutusta kaikille henkilökunnalle - niin opetuksessa kuin hallinnossa. Tästä syntyvät kustannukset ovat koulutuksen järjestäjän vastuulla ja lisäävät kuntien taloudellista taakkaa. Kuntaliitto kysyykin, tuleeko Opetushallitus toteuttamaan henkilöstön ja opettajien täydennyskoulutuksia tekoälysuositusten toimeenpanoon? On tärkeää, ettei vastuu täydennyskoulutuksista jää yksinoman kuntien ja koulutuksen järjestäjien vastuulle.

Lausunnolla on vain osa siitä kokonaisuudesta, joka tulee suositusten lisäksi koulutuksen järjestäjien käyttöön. Kuntaliitto toteaa, että kokonaisuuden hahmottaminen jää vielä hieman hataraksi tästä syystä. Tekoälyn toimintakenttä on nopeasti kehittyvää ja suositukset tulevat vaatimaan nopealla tahdilla päivitystä ja siten suosituksissa tulisi olla myös ennakoivaa otetta. Kokonaisuudessa ei käy vielä ilmi, miten usein ja millä tavoin suosituksia päivitetään ja miten ne saadaan pysymään kehittyvässä ajassa mukana. 

Nyt lausunnolla olevaa tekoälysuosituskokonaisuutta voidaan pitää merkittävänä ja hyödyllisenä kokonaisuutena. Kuntaliitto kiittää kokonaisuuden valmisteluun osallistuneita tärkeästä työstä. Tehdään yhdessä näistä suosituksista entistä paremmat ja ylläpidetään niitä ajassa elävänä kokonaisuutena. 

4. Yhteenveto lausunnon keskeisistä sisällöistä.

- Kuntaliitto toteaa, että nyt lausunnolla oleva suositus on huomattavasti kiteytetympi, kuin aiemmin lausunnolla ollut kokonaisuus. Osa aiemmasta tekstistä ehdotetaan siirrettävän tukimateriaaleihin, mitä pidämme hyvänä ratkaisuna

- Kuntaliitto huomauttaa, että suurin osa suosituksista on kirjoitettu koulutuksen järjestäjää velvoittavaan kirjoituasuun, jolloin jää epäselväksi mikä kohta on velvoittava ja mikä on suositeltava. Paikoin jää myös epäselväksi mihin lainsäädäntöön yleiset periaatteet ovat sidottuja eli perustuvatko lainsäädäntöön. Epäselvyyttä aiheuttaa myös se, että joidenkin suositusten taustalla on kuitenkin jo velvoittavaa lainsäädäntöä. 

- Kunnat ja valtio voisi saada synergiaetua siitä, että kansallinen taho tai viranomainen tekisi kuntien ja koulutuksenjärjestäjien tueksi laajasti ja yleisesti käytetyistä tekoälyjärjestelmistä yhteisiä, kansallisen tietoturvallisuuden tai tekoälyasetuksen vaatimustenmukaisuuden arviointeja tai tietosuojan vaikutustenarviointeja. Tämä voisi keventää koulutuksenjärjestäjien turhaa hallinnollista taakkaa, kun kaikki opetuksen- ja koulutuksen järjestäjät eivät yksitellen tekisi samaa työtä. 

Suomen Kuntaliitto

Minna Karhunen
toimitusjohtaja

Minna Lindberg
erityisasiantuntija