Tanskan sosiaaliturvaviranomaisen käyttämät tekoälytyökalut uhkaavat lisätä vammaisten ihmisten, pienituloisten, pakolaisten, maahanmuuttaneiden ja rodullistettujen ihmisten syrjintää. Tämä käy ilmi Amnesty Internationalin tutkimuksesta.
Amnesty International on tutkinut Tanskan sosiaaliturvaviranomaisen, Udbetaling Danmark (UDK), käyttämiä tekoälytyökaluja, joilla pyritään havaitsemaan sosiaaliturvan väärinkäytöksiä. Tekoälytyökalut merkitsevät viranomaisten jatkotutkimuksia varten sosiaaliturvan hakijoista ja saajista ihmiset, jotka saattavat tekoälyn arvion mukaan syyllistyä väärinkäytöksiin.
Amnestyn tutkimus osoittaa, että tekoälyä hyödyntävä sosiaaliturvajärjestelmä uhkaa lisätä syrjintää, mahdollistaa digitaalisen massavalvonnan, luo pelon ilmapiiriä ja saa ihmiset luopumaan vastentahtoisesti tai jopa tietämättään oikeudestaan yksityisyyteen.
“Monissa maissa, myös Suomessa, on kiinnostusta tekoälyn käytön lisäämiseen sosiaaliturvajärjestelmässä. Tekoälyn käytössä on kuitenkin merkittäviä ihmisoikeusriskejä. Sosiaaliturvajärjestelmässä nämä riskit kohdistuvat jo usein valmiiksi syrjinnälle alttiissa asemassa oleviin ihmisiin”, Amnesty Internationalin Suomen osaston asiantuntija Mariko Sato toteaa.
Tanskan sosiaaliturvaviranomainen UDK on valtuuttanut yrityksen, Arbejdsmarkedets Tillægspension (ATP), hallinnoimaan väärinkäytösten torjuntaa. ATP tekee yhteistyötä yksityisten monikansallisten yritysten kanssa kehittääkseen algoritmeja väärinkäytösten torjumiseen. UDK ja ATP käyttävät jopa 60 algoritmista mallia väärinkäytösten havaitsemiseen. Amnesty International sai tutkimustaan varten osittaisen pääsyn neljään näistä algoritmeista.
Syrjiviä algoritmeja
Sosiaaliturvajärjestelmässä käytetyissä algoritmeissä toistuvat Tanskan yhteiskunnan syrjivät oletukset ja rakenteet. Algoritmit uhkaavat kohdistaa väärinkäytösepäilyjä suhteettomasti jo ennestään syrjintää kokeviin ihmisryhmiin, kuten pakolaisiin, maahanmuuttaneisiin, etnisiin vähemmistöihin, pienituloisiin ja vammaisiin ihmisiin.
Tanskan viranomaiset käyttävät esimerkiksi Really Single -algoritmia eläkkeisiin ja lastenhoitoon liittyvien sosiaalietuuksien väärinkäytön tunnistamiseksi. Yksi algoritmin käyttämistä kriteereistä on ”epätyypilliset” perhejärjestelyt. Ihminen voi joutua algoritmin merkkaamaksi vain sen vuoksi, että hänen asumisjärjestelynsä poikkeaa siitä, mikä nähdään tanskalaisena normina. Esimerkiksi erillään asuvat ikääntyneet pariskunnat ja perheet, joissa samassa taloudessa asuu monta sukupolvea, voivat joutua algoritmin merkkaamaksi.
Tekoälyjärjestelmä käyttää myös ”ulkomaisiin kytköksiin” liittyviä tietoja. Algoritmi merkkaa väärinkäytöstutkimuksiin ihmisiä, joilla katsotaan olevan ”keskivahvat ja vahvat siteet” ETA:n ulkopuolisiin maihin. Tämä syrjii ihmisiä esimerkiksi kansallisen alkuperän ja maahanmuuttostatuksen perusteella.
UDK:n mukaan ”kansalaisuuden” käyttö sen algoritmeissa ei ole arkaluontoinen henkilötieto. Amnesty painottaa, että kansalaisuus voi paljastaa henkilön etnisen alkuperän tai maahanmuuttaja-aseman ja johtaa alkuperään perustuvaan syrjintään.
Massavalvontaa
Tanskan tekoälyä hyödyntävä sosiaaliturvajärjestelmä mahdollistaa digitaalisen massavalvonnan. Tanskassa on säädetty algoritmien käytön mahdollistamiseksi lakeja, jotka sallivat miljoonien Tanskassa asuvien ihmisten henkilötietojen keräämisen ja yhdistelemisen julkisista tietokannoista. Kerätty data sisältää myös arkaluontoisia tietoja, kuten tietoja kansalaisuudesta, liikkumisesta, asuinpaikasta ja perhesuhteista. Tällaisia tietoja voidaan käyttää henkilön etnisen alkuperän tai seksuaalisen suuntautumisen tunnistamiseksi.
Massavalvonta on luonut pelon ilmapiirin. Amnesty Internationalin haastattelemat henkilöt kertoivat valvonnan aiheuttamista psykologisista haittavaikutuksia kuten pelosta. Esimerkiksi vammaiset henkilöt, jotka joutuvat jatkuvasti kuulusteltaviksi, kokevat jatkuvan valvonnan vaikuttavan negatiivisesti heidän mielenterveyteensä.
UDK väittää, että henkilötietojen laaja kerääminen ja yhdisteleminen on ”oikeudellisesti perusteltua”. Amnestyn tutkimus kuitenkin osoittaa, että valtavan tietomäärän kerääminen ei ole tarpeellista, eikä oikeasuhtaista.
Sosiaalisen pisteytyksen järjestelmä?
Amnestyn tutkiman aineiston perusteella UDK:n ja ATP:n käyttämä järjestelmä saattaa olla niin sanottu sosiaalisen pisteytyksen järjestelmä. Sosiaalisen pisteytyksen järjestelmissä ihmisten henkilökohtaisia ominaisuuksia saatetaan pisteyttää siten, että se johtaa perusteettomasti epäedulliseen kohteluun. EU:n uusi tekoälyasetus (AI Act) kieltää sosiaalisen pisteytyksen järjestelmien kaltaiset valvontakäytännöt ihmisarvon ja syrjimättömyyden vastaisina.
UDK katsoo, että järjestelmä ei kuulu sosiaalisen pisteytyksen kiellon piiriin, mutta ei kuitenkaan ole esittänyt näkemykselleen riittäviä perusteita. Tanskan viranomaisten täytyy varmistaa, että järjestelmä ei muodosta sosiaalisen pisteytyksen järjestelmää ja jäädyttämään sen käytön, kunnes tästä voidaan varmistua.
Hei vielä! Kun nyt olet täällä…
… niin uskomme, että välität ihmisoikeuksista kaikille, kaikkialla maailmassa. Tiesitkö, että Amnestyn työ perustuu juuri sinunkaltaistesi välittävien ihmisten tukeen? Olemme riippumaton toimija, joka ei ota vastaan julkista rahoitusta. Mutta riippumattomuutemme on mahdollista säilyttää vain yksityishenkilöiden tuen voimalla.
Työmme on tehokasta. Lahjoittajiemme ansiosta vapautamme satoja vääryydellä vangittuja ihmisiä, painostamme hallituksia muuttamaan syrjiviä lakeja paremmiksi, estämme teloituksia ja pelastamme ihmishenkiä. Lahjoittajien avulla asiantuntijamme pystyvät tutkimaan ja paljastamaan ihmisoikeusloukkauksia. Tuomme vääryyksiä julki ja vaadimme päättäjiä korjaamaan ne.
Tämä kaikki on mahdollista, mutta vain sinun avullasi. Yhdessä voimme lopettaa kidutuksen, sorron ja syrjinnän, auttaa pahoinpideltyjä naisia, sekä tarjota paremman tulevaisuuden sotaa ja tuhoa pakeneville ihmisille.
Siksi kysymme: tekisitkö lahjoituksen sinulle sopivalla summalla? Jokainen lahjoitus on tärkeä. Tue nyt ihmisoikeuksia Suomessa ja kaikkialla maailmassa ja lahjoita!