
RAB superandmebaasi ja politsei igatsetavate tehisintellekt-trahvimasinate valguses väga asjakohane artikkel sellest, kuidas "ausal inimesel pole midagi karta". Tervet artiklit ei pane, aga mõned väljavõtted:
Juhtunu „süüdlaseks“ oli ettevõttelt Fujitsu tellitud andmebaas Horizon, mis hakkas postiametit regulaarselt teavitama postkontorite rahalistest puudujääkidest. Briti postisüsteemi struktuur tugineb füüsilistest isikutest allhankijatele, kes sõlmivad postiametiga kohaliku kontori avamiseks lepingu. Lepingu järgi vastutab postkontori juht puudujäägi tekkimise eest isiklikult. Uus arvutisüsteem hakkas tuvastama selliseid puudujääke sadades ja siis tuhandetes kontorites.
Arvutisüsteem hakkas tuvastama puudujääke sadades ja siis tuhandetes kontorites.
Probleem on selles, et puudujääki enamikul juhtudel tegelikult ei olnud. Postiülemad kaebasid algusest peale, et Horizon toimib vigaselt, ent neid ei kuulatud.
Siis, kui lõpuks pea 15 aastat hiljem midagi kooruma hakkas:
Pärast Computer Weekly paljastusi kasvas surve, et postiamet hakkaks uurima enda vastu esitatud etteheiteid. 2013. aastal valmis postiameti tellitud audit, kus teatati, et kahe selleks ajaks tuvastatud tarkvaravea tõttu süüdistati kümneid postkontoreid ebaõiglaselt puudujäägis. Kriminaalasju sellest ei tekkinud, kuid osalt kontoritelt nõuti „puudujääva“ summa tühistamist. Järgmises, 2015. aastal ilmunud siseraportis olid hinnangud veel karmimad ning leiti, et enamikul juhtudest on väidetav puudujääk tarkvaravea tulemus. Seejuures märkisid raporti koostajad, et vigu saaks vältida, kui postiamet nende vältimise vastu vähimatki huvi tunneks.
Masinavärk töötas aga edasi ka pärast raportitega tutvumist. Postiameti ja Fujitsu esindajad andsid postiülemate kaebuse tõttu kohtus tunnistusi ja kinnitasid, et ohvrid valetavad. Süütute inimeste tagakiusamine lõppes alles 2019. aastal ehk kuus aastat pärast seda, kui postiameti tellitud siseraport oli selle eest hoiatanud. Tagajärgedega seotud hüvitamine ja karistamine alles algab.
Erikomisjon teatas eelmisel nädalal lõppraportis, et vähemalt 13 alusetult süüdistatud postiülemat lõpetas elu enesetapuga. Neid, kes pääsesid vangistusest, tabasid sageli mainekahju, psühholoogilised ja pereprobleemid ning varaline pankrot. Ebaõiglaselt süüdistatuid oli kokku umbes 4000 inimest.
Pole mingit põhjust eeldada, et meil oleks ametkonnad kohusetundlikumad ja automaatika suhtes kriitilisemad, kui seda UKs oldi. Igasugu "tehisintellektidega" veel eriti, sest neid ümbritseb maagilise ja müstilisuse aura. Kui TI-Mart ütles, et Mari on süüdi, siis järelikult ta ongi ja jutul lõpp! Ja kui Mari üritab väita, et ei ole, siis see on pigem raskendav asjaolu, sest "tehisintellekt" ei eksi kunagi!
by manjabes
8 comments
Antud juhtumist on ka seriaal tehtud “Mr Bates vs The Post Office”. ETV ka vist jooksis mingi aeg
Ega eesti sinnapoole tüürib kuidagi on vaja ju raha riigile saada “töötava” süsteemiga. Kui sealt hiljem viga avastatakse siis öeldakse oih keegi ei vastuta ja minnakse vanatviisi edasi…
Mulle jäi arusaamatuks, kas süüdimõistmisel keegi käsitsi ei kontrollinud neid asju üle?
Automatiseerimine pole süüdi, kui inimesed rumalad on.
Mina isiklikult olen väga skeptiline TI kasutamise osas. Jah, ta on väärt abimees pisikeste lihtsate koodijuppide kirjutamisel ja mingite X teemade lahti seletamisel. Aga see Alar Karise välja hüüdud tiigrihüpe 2, mille raames seda hakatakse laialdaselt koolides kasutama… See on lollus.
Hollandis oli sarnane lugu, ainult seal arvutiprogramm süüdistas lastetoetuste “alusetus” saamises mitukümmend tuhat pere. Ning ainuüksi masina teate alusel hakati neid peresid kohtus menetlema, kohtutäiturid reipalt nõudsid “alusetult saadud toetused” sisse jne.
Ning samuti läks vaja mitu aastat venimist ja varjamist kuniks tõde tuli päevavalgele: algoritm eksis ja ametnikud ja kohtud usinalt peedistasid selle alusel süütuid inimesi.
[https://en.wikipedia.org/wiki/Dutch_childcare_benefits_scandal](https://en.wikipedia.org/wiki/Dutch_childcare_benefits_scandal)
Kohutav lugu ja kindlasti kordub kus iganes. See näitab kui julm ja ülbe on süsteem! Tegelikult oli see lihtsalt kõrgete ülemuste mugavus! Nad ei viitsinud auditeerimist tellida vaid lihtsam oli see raha välja peksta üksiku inimese käest. Teda ei huvitanud kust raha tuleb pea asi et nr klapiks! Julm-julm-julm…
Ma olen artikliga nõus aga tasub tähele panna, et päris tõde on ikkagi detailides. Kirjeldatud olukorras polnud eksimus mitte tehnoloogiline vaid ikkagi inimlik. Väga lihtsalt öeldes kellelgi oli liiga pohhui, et asja lähemalt uurida. Kas olid spetsialistid olemas kes konkreetsete näidete peal oleks saanud logides, koodis või kuskil mujal uurida, kas tulemus on õige või mitte? Kindlasti oli aga mingi ülemus ei andnud korraldust sellega tegeleda. Mingist hetkest edasi muutus see ilmselt juba äriliseks küsimuseks tarkvara tootnud firmale, et kui kõva on maine ja rahaline kahju kui nad seda eitavad olenemata sellest, et nad võib-olla ise teadsid, et neil on mingi viga.
Selliste üldiste väidete viga, on see, et mingi Karen kes nendest nüansi vahedest aru ei saa võtab selle kui üldiselt tõese väite ja kahtleb igasuguses tehnoloogias ***veel rohkem*** ja süüdistab ka tehnoloogiat sellistes asjades mis on tehnoloogiliselt võimatud. A la minu laps ei saanud küll mu krediitkaardi andmeid kätte ja on ingel. Süsteem ise võttis need andmed mu netflixi kontolt mu lapse xboxi kontole.
Või Karen, kellel on täiesti mehaanilise ühendusega pedaalidega auto süüdistab et auto kiirendas/pidurdas ise sest ta on kuulnud, et fly by wire Teslad võivad ise kiirendada ja pidurdada. Teeb kasvõi kohtu case sest ta on veel artikleid lugenud, et tehnoloogia eksib, kõike muud, et enda viga tunnistada.
Ehk mu point on selles, et sellised infokillud võiks rõhuda eelkõige inimlikele puudujääkidele mitte tehnoloogilistele. Tehnoloogia ju töötas – küll puudujääkidega aga inimese asi on need puudujäägid tuvastada ja kõrvaldada ning siis oleks ju potentsiaalselt väga hea lahendusega tegu olnud.
Tehisintellekt tehisintellektiks, kui ikkagi üle piirkiiruse sõidetakse, pilt on olemas ja kaamera taadeldud pole seal midagi kobiseda.
või mis “tehisintellekt-trahvimasinat” mõeldud on?
Comments are closed.