Vuokranmaksuni pysähtyi yllättäen epäilyttävänä. Olivatko minun ja vuokranantajani ulkomaiset nimet järjestelmään syötetyille turvaohjeille liikaa, Al-mehsen pohtii.
Avaa kuvien katselu
Muutin tovi sitten uuteen, ihanaan asuntoon. Kun yritin maksaa vuokraani, pankiltani tuli viesti, että maksu oli pysäytetty epäilyttävän rahaliikenteen vuoksi. Ensin ajattelin, että viesti oli huijausyritys, mutta tarkistin tilanteen verkkopankista. Maksu vuokranantajalleni oli kuin olikin jäädytetty, ja järjestelmä vaati lisätietoja maksun saajasta.
Se halusi tietää vuokranantajani henkilötunnuksen, osoitteen ja erilaisia yksityiskohtia, joita minulla ei vuokralaisena voinut olla saman tien käsillä. En kehdannut alkaa niitä myöskään vuokranantajaltani utelemaan kummallisessa tilanteessa.
Pyysin pankkia tarkistamaan maksun tiedot tarkasti ja jo aiemmin maksamani täysin samanlaiset siirrot. Kaikissa niissä oli selkeästi tieto, että lasku koskee vuokranmaksua. Kesti tovi. Sain lopulta rutiininomaisen viestin, että maksu oli vapautettu. Mitään selitystä, miksi tällaista yhtäkkiä tapahtui tai miksi lisätietoja ei enää tarvittukaan, en sen sijaan saanut.
Pankkini ei koskaan katsonut tarpeelliseksi selittää tapahtunutta.
Onneksi tapaan maksaa vuokrani aina ajoissa. Pahimmillaan vuokra olisi sotkun vuoksi myöhästynyt ja sillä puolestaan ikäviä seurauksia vuokrasuhteelle.
Minulla on pankkialalla työskentelevä tuttava, jolle kerroin kokemuksestani. Hän ei yllättynyt tapahtuneesta. Oli ehkä käynyt niin, että automaattiset ohjelmistot tulkitsivat kaksi vieraskielistä nimeä tilisiirroissa epäilyttäviksi..
Pankkini ei koskaan katsonut tarpeelliseksi selittää tapahtunutta tarkemmin, joten maksun jäädyttäminen jää mysteeriksi. Minulle jäi vahva epäily, että kyse oli nimistä. Olen elänyt koko ikäni vuokralla, enkä ole aiemmin kohdannut vastaavaa tilannetta. Mutta nyt sekä uudella vuokranantajallani että minulla oli vieraskielinen nimi. Mahtoiko se olla tietojärjestelmälle liikaa?
Jos oli, siinä tapauksessa nimien painoarvo näyttäisi olevan suurempi, kuin esimerkiksi kokonaisarvio tilin toiminnasta tai selkeällä suomella kirjoitettu viestikenttä yksityiskohtaisine maksutietoineen. Tapaus hämmensi, mutta suurempi hämmennys voi olla edessä.
Nyt tekoälystä on tulossa pysyvä osa maailmaa. Se on läsnä kaikessa, asiakaspalvelu -chateista aina nettishoppailuun. Totumme siihen nopeasti ja miksipäs emme, tekoäly helpottaa elämää.
Mitä tapahtuu arjessa niille ihmisille, jotka eivät mahdu tekoälyyn rakennettuun ajatusmaailmaan?
Samalla olemme kuitenkin joutuneet kohtaamaan uuden, tiedon automatisointiin liittyvän uhan: tekoälyn ”aivojen” rakennuspalikat voivat olla puolueellisia ja syrjiviä.
On pelottavaa ajatella, mitä tapahtuu arjessa niille ihmisille, jotka eivät mahdu tekoälyyn rakennettuun ajatusmaailmaan, tai jotka lokeroidaan jotenkin väärin. Pahimmillaan koneen äly uusiintaa ja vahvistaa syrjinnän käytäntöjä. Vaikutukset yksilön arjessa voivat olla musertavia esimerkiksi terveydenhuollossa, työpaikkarekrytoinissa tai vaikkapa siinä, keitä tietokoneen algoritmi pitää mahdollisena sosiaaliturvan väärinkäyttäjänä.
On tietysti elintärkeää suojautua uhilta ja huijauksilta. Mutta yhtä tärkeää on samalla varmistaa, että emme suojautuessamme aseta ihmisiä eriarvoiseen asemaan. Valtioneuvosto totesi jo vuonna 2022, että algoritminen päätöksenteko luo nopean kehityksen ohella myös uhkia yhdenvertaisuudelle ja syrjimättömyydelle Suomessa.
Tekoälyn käyttö laajenee niin huimaa vauhtia, että kaikki säätely seuraa muutosta auttamatta takamatkalta.
Tilanne on siis tiedossa ja ongelmien välttämiseen on kehitetty myös ohjeita ja koulutusta. Toisaalta tekoäly kehittyy ja sen käyttö laajenee niin huimaa vauhtia, että lainsäädäntö ja ohjeet seuraavat muutosta auttamatta takamatkalta.
Nimeni on tuonut minulle kovin monenlaisia hetkiä. Ihailua, sillä nimeni tarkoittaa arabiaksi toivetta, unelmaa tai turvapaikkaa. Kummastusta, sillä se on molemmille sukupuolille suunnattu nimi. Hulvattomia nauruja, kun olen yläasteella astellut reippaasti poikien liikuntatunnille nimestäni oletetun sukupuolen vuoksi. Ja toisaalta itkua, kun en ole päässyt edes haastatteluun työpaikkoihin, joihin minulla on mielestäni ollut vähintään saman verran osaamista ja kokemusta kuin lopulta työhön valitulla.
Nimet ovat tärkeitä, sillä ne on valittu ajatuksella juuri meille. Siksi kenenkään nimi ei saisi koskaan olla syy syrjintään – on syrjijä sitten ihminen tai kone.
Amani Al-mehsen
Kirjoittaja on ihmisoikeusasiantuntija, joka maksaa kiltisti myös pankkinsa palvelumaksut.