Teknologia kehittyy jatkuvasti niin hyvässä kuin pahassa. Euroopan unioni hyödyntää teknologiaa enenevissä määrin estääkseen siirtolaisten pääsyn ulkorajoilleen ja toisaalta jäsenvaltiot hyödyntävät teknologioita myös maahanmuuton hallinnoinnissa siirtolaisten maahanpääsyn jälkeen. Välimeren yllä lentää ihmisiä kuljettavia veneitä etsiviä droneja ja biometristen tietojen, kuten iirisskannauksien, kerääminen on jo arkipäivää. Suomessakin tekoälyä ja automaattista päätöksentekoa maahanmuuton hallinnoinnissa hyödyntävät Rajavartiolaitos, Maahanmuuttovirasto ja poliisi.
Suomen itärajalle rakennetaan aitaa, joka tulee maksamaan kokonaisuudessaan arviolta 380 miljoonaa euroa. Rajavartiolaitos toteaa vuoden 2023 tulossuunnitelmassaan, että aidan rakennus tulee moninkertaistamaan käytettävän ja ylläpidettävän valvontatekniikan määrän itärajalla. Samaan aikaan Rajavartiolaitos salaa raja-aidan teknologian, joten siitä, millaista teknologiaa rajalla jo on tai on suunnitteilla, saadaan vain vähän tietoa.
Trendi on tuttu muualta Euroopasta. Euroopan unionin sisäisten ja erityisesti ulkorajojen valvonnassa käytetään ja testaillaan mitä mielikuvituksellisimpia tekoälyteknologioita. Läpinäkyvyys ei kuitenkaan aina ole varsinaisesti vahvuus näiden projektien osalta, jolloin riippumattomien tahojen on mahdotonta tarkastella niiden eettisyyttä ja ihmisoikeuksien toteutumista.
Turvaa hakevien ihmisten oikeuksia vahingoittava teknologia ei estä rajojen ylittämistä. Se vain tekee siitä vaarallisempaa.
Hyvä esimerkki tällaisesta teknologiasta on valheenpaljastusjärjestelmä iBorderCtrl, jota kehiteltiin ja testattiin vuosina 2016–2019. EU-rahoitteisen valheenpaljastusjärjestelmän tarkoituksena oli tarkastella matkailijoiden mikroeleitä sekä kasvojen ilmeitä ja ryhtiä, ja hälyttää, kun se havaitsee länsimaisesta viitekehyksestä poikkeavaa käytöstä. Tällaiset asiat kuitenkin ovat kovin kulttuurisidonnaisia, ja esimerkiksi ahdistunut henkilö saattaa elehtiä samoin kuin valehteleva henkilö.
iBorderCtrl -järjestelmässä teknologian epäeettisyys ja tieteellisen pohjan puute ei ollut ainut ongelma. EU-rahoitteisesta projektista ei ollut saatavilla sen legitimiteetin tarkastelun kannalta tärkeitä tietoja, ennen kuin EU-parlamentaarikko Patrick von Breyer vei projektin Euroopan unionin tuomioistuimeen. Von Breyer vaati julkisuuteen projektin salattuja dokumentteja koskien sen oikeudenmukaisuutta ja laillisuutta.
Vaikka iBorderCtrl-projekti on tullut päätökseensä, siihen suunnattu rahoituksen määrä osoittaa, että tuotettu teknologia on tuskin poistunut minnekään.
Suomi on osa EU-rahoitteisia teknologiaprojekteja
EU rahoittaa lukuisia projekteja, joilla tuotetaan kiihtyvään tahtiin teknologioita Euroopan ulkorajoille. Myös Suomen Rajavartiolaitos on osa EU:n rahoittamaa Foldout-projektia, jossa rajalla on testattu esimerkiksi eri materiaaleja tunnistavaa kamerateknologiaa. Suomen rajavalvonnan teknologiasta saatujen tiedonmurusten joukosta paljastuu myös, että Rajavartiolaitos käyttää esimerkiksi reaaliaikaista hahmontunnistusta.
Rajavartiolaitos ei ole ainut viranomaistaho, joka hyödyntää tekoälyä maahanmuuttaneiden, turvapaikanhakijoiden ja pakolaisten elämään vaikuttavalla tavalla. Maahanmuuttovirasto automatisoi jatkuvasti enenevissä määrin päätöksentekoaan. Osa-automaatio eli koneen tuottama päätös, jonka ihminen tarkistaa, on jo arkipäivää monessa Maahanmuuttoviraston lupatyypissä. Maahanmuuttovirasto tiedotti ottaneensa täysin automaattisen päätöksen opiskelijoiden ensimmäisissä oleskeluluvissa. Lisäksi poliisi käyttää kasvojentunnistusta, johon liittyy paljon nimenomaan haavoittuvassa asemassa oleville ihmisryhmille kasaantuvia ihmisoikeusriskejä.
Miksi tekoälystä ja ihmisoikeuksista on tärkeää puhua?
Automaatio on jo nyt aiheuttanut absurdeja tilanteita, jotka kuulostavat lähinnä dystooppiselta Black Mirror -sarjan jaksolta ja kertovat, miksi Suomessakin on oltava tarkkana julkisen hallinnon käyttämien teknologioiden kanssa.
Esimerkiksi Alankomaissa viranomaiset profiloivat etnisesti ihmisiä vuosien ajan sen perusteella, kuinka todennäköisesti he tulisivat tekemään petoksia. Järjestelmässä ihmisiä pisteytettiin heidän henkilötietojensa perusteella, eikä ihmisillä ollut mahdollisuutta saada tästä tietoa. Mallin perusteella tuhansia vanhempia syytettiin perusteetta lastenhoitokustannuksiin liittyvistä petoksista. Syytteet syöksivät monia perheitä vakaviin taloudellisiin ongelmiin. Järjestelmää oli hyödynnetty vain niin kutsutuissa ”riskinaapurustoissa”, mahdollistaen näin syrjintää ja vinoumia sosioekonomisen tai maahanmuuttajataustan vuoksi. Alankomaalainen tuomioistuin totesi järjestelmää tutkiessaan, että nimenomaan läpinäkyvyys on välttämätöntä teknologioiden käytössä ihmisten yksityisyyden ja muiden oikeuksien suojaamiseksi.
Alankomaiden lisäksi myös Tanskassa on profiloitu ihmisiä sen varjolla, että haavoittuvassa asemassa olevat lapset saataisiin tunnistettua entistä paremmin. Metodina oli pisteyttää lapsia esimerkiksi vanhempien työttömyyden tai mielenterveyden perusteella.
Tanskassa kaunis ajatus pyhitti keinot, Alankomaissa taas profiloinnin mahdollistama kansallinen lainsäädäntö ajettiin läpi ihmisoikeusjärjestöjen vastustelusta huolimatta.
Suomessakin halutaan lisätä automaation käyttöä, ja hallitusohjelmassa pohjustetaan jopa täyden automaation käytön mahdollisuutta Maahanmuuttoviraston toiminnassa. Tämä tarkoittaisi siis sitä, että koneen tuottamaa päätöstä ei tarkisteta ihmisvoimin, huolimatta automaattisen päätöksenteon sisältämistä vinoumariskeistä. Lisäksi hallitusohjelmassa on kirjaus Rajavartiolaitoksen teknologisten toimivalmiuksien laajentamisesta entisestään.
Euroopan unionin tekoälyasetuksesta saavutettiin poliittinen yhteisymmärrys jäsenmaiden, komission ja EU-parlamentin välisissä kolmikantaneuvotteluissa Brysselissä 9.12.2023. Asetus pyrkii suojaamaan ihmisoikeuksia muutoin, mutta turvapaikanhakijat ja pakolaiset se jättää ilman suojaa ja alttiiksi ihmisoikeuksiin kajoavien tekoälyteknologioiden kohteeksi joutumiselle. Turvaa hakevien ihmisten oikeuksia vahingoittava teknologia ei estä rajojen ylittämistä. Se vain tekee siitä vaarallisempaa.
Tekoäly ei koskaan ole neutraalia, vaan yhteiskunnan asenteet siirtyvät algoritmien muodossa tekoälyteknologioihin. Tuskinpa kukaan haluaa tarkoituksellisesti tuottaa järjestelmiä, jotka tekevät syrjiviä päätöksiä. Siksi riittävä ja säännöllinen teknologioiden käytön seuranta ja laillisuusvalvonta täytyy varmistaa Suomessa.
Kartoittaessani harjoitteluni aikana Suomen julkisen hallinnon tekoälyn ja muun teknologian käyttöä kävi ilmi, että läpinäkyvyys ei Suomessa tällä hetkellä ole riittävällä tasolla. Ihmisoikeusvaikutusten arviointia ja seurantaa ei suoriteta juuri lainkaan.
Orpon hallituksen hallitusohjelman kirjaukset teknologioiden käytön lisäämisestä korostavat, että nyt on korkea aika alkaa kiinnittää aiempaa enemmän huomiota ihmisoikeuksien täysimääräiseen toteutumiseen kaikille teknologian kohteena oleville.
Teksti: Emilia Tuomiluoma. Kirjoittaja työskenteli Amnestyn Suomen osaston oikeudellisena harjoittelijana vuonna 2023.
Amnestyn blogissa ilmaistut näkemykset ovat kirjoittajan omia, eivätkä välttämättä edusta järjestön virallista kantaa.
Hei vielä! Kun nyt olet täällä…
… niin uskomme, että välität ihmisoikeuksista kaikille, kaikkialla maailmassa. Tiesitkö, että Amnestyn työ perustuu juuri sinunkaltaistesi välittävien ihmisten tukeen? Olemme riippumaton toimija, joka ei ota vastaan julkista rahoitusta. Mutta riippumattomuutemme on mahdollista säilyttää vain yksityishenkilöiden tuen voimalla.
Työmme on tehokasta. Lahjoittajiemme ansiosta vapautamme satoja vääryydellä vangittuja ihmisiä, painostamme hallituksia muuttamaan syrjiviä lakeja paremmiksi, estämme teloituksia ja pelastamme ihmishenkiä. Lahjoittajien avulla asiantuntijamme pystyvät tutkimaan ja paljastamaan ihmisoikeusloukkauksia. Tuomme vääryyksiä julki ja vaadimme päättäjiä korjaamaan ne.
Tämä kaikki on mahdollista, mutta vain sinun avullasi. Yhdessä voimme lopettaa kidutuksen, sorron ja syrjinnän, auttaa pahoinpideltyjä naisia, sekä tarjota paremman tulevaisuuden sotaa ja tuhoa pakeneville ihmisille.
Siksi kysymme: tekisitkö lahjoituksen sinulle sopivalla summalla? Jokainen lahjoitus on tärkeä. Tue nyt ihmisoikeuksia Suomessa ja kaikkialla maailmassa ja lahjoita!