Algoritmi rasismin toisintajana: alkuperään perustuva algoritminen syrjintä ja tekoälypohjaisten järjestelmien hyödyntäminen viranomaispäätöksenteossa

Abstract

Tutkielma käsittelee alkuperään perustuvaa algoritmista syrjintää ja tekoälyn hyödyntämistä viranomaisen päätöksenteossa. Työssä tarkasteltavat tekoälypohjaiset järjestelmät pitävät sisällään sekä Euroopan unionin tekoälyasetuksen mukaiset tekoälyjärjestelmät että yleisen tietosuoja-asetuksen mukaiset automaattisen päätöksenteon järjestelmät. Työn tavoitteena on arvioida tekoälyn käyttöön liittyviä perusoikeusriskejä, keskittyen erityisesti yhdenvertaisuuteen, syrjimättömyyteen ja hyvään hallintoon. Lisäksi tutkielmassa tarkastellaan, miten voimassa oleva kansallinen ja kansainvälinen sääntely vastaavat alkuperään perustuvan algoritmisen syrjinnän haasteisiin, ja millaisia velvollisuuksia viranomaiselle asetetaan tekoälypohjaisten järjestelmien käyttöön liittyen.

Työssä hyödynnetään tutkimusmenetelmänä lainoppia eli oikeusdogmatiikkaa. Tutkielmassa tarkastellaan erityisesti Suomen perustuslain yhdenvertaisuussäännöksiä, yhdenvertaisuuslakia ja hallintolakia. Unionioikeuden osalta painopiste on Euroopan unionin tekoälyasetuksessa ja yleisessä tietosuoja-asetuksessa. Lisäksi tutkielmassa hyödynnetään esimerkiksi lainvalmisteluasiakirjoja, oikeuskirjallisuutta, artikkeleita, algoritmiseen syrjintään liittyviä selvityksiä sekä erityisviranomaisten ja laillisuusvalvojien kannanottoja.

Tutkielman tutkimustuloksena on se, että voimassa oleva lainsäädäntö tarjoaa suojaa alkuperään perustuvalta algoritmiselta syrjinnältä. Sääntelyyn ja käytännön valvontaan liittyy kuitenkin myös merkittäviä puutteita. Erityisesti esiin voidaan nostaa tekoälyn opasiteettiongelmat, (virka)vastuun kohdentumiseen liittyvät kysymykset sekä viranomaisten rajallinen tietämys algoritmisesta syrjinnästä ja sen ilmenemistavoista. Perusoikeuksien turvaamisen kannalta keskeisenä voidaan pitää ennakollisen vaikutustenarvioinnin tekemistä, läpi järjestelmän elinkaaren jatkuvan valvonnan suorittamista sekä avoimuutta ja läpinäkyvyyttä.