Lukijan mielipide|Jos tekoälyä käytetään sosiaaliturvan valvonnassa, jokaisella kansalaiselle on tultava automaattisesti raportti siitä, mitä tietoa hänestä on kerätty.
Kirjoitus on Helsingin Sanomien lukijan mielipide.
Kirjoitus on Helsingin Sanomien lukijan mielipide.
Tekoälyn käyttö sosiaaliturvan valvonnassa on eettisesti haastavaa ja voi vaarantaa perusoikeuksia, kuten Amnesty Internationalin Likhita Banerji ja Mariko Sato (HS 18.12.) nostivat ansiokkaasti esille. Tekoälylukutaito tarkoittaa esimerkiksi kykyä ymmärtää, miten tekoälyjärjestelmät tuottavat tietoa, miten niitä käytetään ja millaisia eettisiä valintoja niihin sisältyy. Tekoälyn kriittinen ja vastuullinen käyttö on edellytys toimivalle demokratialle.
Suunnitellun kaltainen tekoälypohjainen valvontajärjestelmä käsittelisi erittäin arkaluonteista dataa, kuten terveys- ja taloustietoja. Vaikka lainsäädäntö, mukaan lukien EU:n AI-sääntely, asettaa reunaehtoja, kansalaisten on voitava valvoa omia tietojaan ja saada tietää, miten heidän dataansa kerätään, yhdistellään ja käytetään päätöksenteossa. Ilman läpinäkyvyyttä ja oikeutta korjata virheitä järjestelmät heikentävät luottamusta ja oikeusturvaa.
Oppiva tekoäly ei vain käsittele tietoa vaan muodostaa uusia merkityksiä. Tiedonmuodostusprosessiin voi syntyä vinoumia sekä aineistosta että oppimisvaiheista, eikä näitä prosesseja useinkaan dokumentoida tai avata riittävästi. Virheet ja varhaiset yleistykset voivat jäädä piiloon ja vaikuttaa päätöksiin pitkään.
Sosiaaliturvan valvonnassa tämä voi johtaa ihmisten profilointiin ja rakenteelliseen syrjintään, jossa moninaiset elämäntilanteet voidaan tulkita epäilyttäviksi. Esitän myös eettisen kysymyksen: Olisiko vastaava järjestelmä eettisesti kestävä esimerkiksi yritysten taikka verovelvollisten seurantaan? Jos ei olisi, miksi se sallittaisiin kaikista köyhimpien kohdalla?
Ohjelmoijilla, järjestelmien suunnittelijoilla ja tilaajilla on henkilökohtainen eettinen vastuu ymmärtää tekoälyn tiedontuotantoa ja arvioida riskejä jokaisessa kehitysvaiheessa. Jos tekoälyä käytetään sosiaaliturvan valvonnassa, jokaiselle kansalaiselle on tultava automaattisesti raportti siitä, mitä hänestä on kerätty, miten tietoa on yhdistetty ja miten päätelmiä on tehty. Kansalaisilla on oikeus korjata virheelliset tiedot. Viranomaisen tulee varmistaa, ettei tekoälystä tule näkymätön valvontakoneisto, joka kohdistuu erityisesti kaikkein heikoimmassa asemassa oleviin.
Saija Salonen
väitöskirjatutkija,
tekoälylukutaidot, Helsinki
HS:n toimitus valitsee ja toimittaa mielipidekirjoitukset. Voit jättää mielipidekirjoituksen tai tutustua kirjoitusten periaatteisiin osoitteessa http://www.hs.fi/kirjoitamielipidekirjoitus/.