Kuigi inimtöötaja vaatas AI sildistatud ohu üle, tuli kooli kohale politsei, kes ootas kõige hullemat. Lapsi relvaga ähvardava kurjategija asemel leidsid nad aga pildid muusikainstrumendist. Lisaks bändiruumis peituvatele hirmus lastele leidsid nad lõpuks kahtlusaluse: jõulufilmist pärit kostüümis noore õpilase, käes klarnet.
AI süsteemi ZeroEyes kaasasutaja Sam Alaimo ütles Washington Postile, et AI tegi täpselt nii, nagu sellise juhtumi puhul tegema pidi: kasutas „parem karta kui kahetseda“ lähenemisviisi. „Me ei arva, et tegime vea, sama ütleme kooli kohta,“ selgitas Alaimo. „Otsus kutsuda kohale politsei oli parem, kui oleks olnud nende mitte kutsumine.“
Politseinikud lahkusid pärast seda, kui segaduses olev õpilane kinnitas, et ei olnud teadlik, et tema klarneti hoidmise viis võis selle häire esile kutsuda. ZeroEyesi pressiesindaja väitis aga, et õpilane hoidis instrumenti tahtlikult nagu hoiaks vintpüssi. Ja selle asemel, et uurida, miks pilte hoolikamalt läbi ei vaadatud, näis kool olevat ZeroEyesiga nõus ja süüdistas õpilast.
Kooli direktor Melissa Laudani teatas vanematele saadetud kirjas, et „kuigi ülikooli territooriumil ei olnud ohtu, palun teil rääkida oma õpilasega sellest, kui ohtlik on teeselda, et sul on kooli territooriumil relv“. Sarnaselt rõhutas Seminole County Public Schools (SCPS) kommunikatsioonijuht Katherine Crnkovich Ars Technicale: „Palun veenduge, et märgitakse, et see õpilane ei hoidnud lihtsalt klarnetit. See isik hoidis seda käes nagu relva.“
Kuid õpilaste hoiatamine tavaliste esemete relvana kasutamise eest ei ole ideaalne lahendus. 2023. aastal Texase keskkoolis filmitud videomaterjal näitas, et ZeroEyes võib mõnikord relvadena tuvastada ka varjusid, märgistades potentsiaalse ohuna õpilase, kes lihtsalt kooli sisse astub. Ühtlasi põhjustas ZeroEyes eelmisel aastal ajutiselt kooli sulgemise ja politsei sekkumise, kui tuvastas kaks teatriõpilast, kes kasutasid näidendiproovis rekvisiidina relvi.
Sarnane AI-tööriist nimega Omnilert sattus riiklikesse uudistesse, kui ajas tühja Doritos-koti segamini relvaga, mis viis 14-aastase Baltimore’i teise klassi õpilase vahistamiseni. Sel juhul ütles õpilane Ameerika Kodanikuvabaduste Liidule, et ta hoidis lihtsalt krõpse käes, kui AI umbes kaheksa politseiautot teda kinni pidama saatis.
Aastate jooksul on kooli turvalisuse eksperdid hoiatanud, et ZeroEyes’i taolised AI-tööriistad nõuavad märkimisväärseid ressursse, kuigi nende efektiivsus tõestamata, kirjutas Post. ZeroEyes’i pressiesindaja ütles Arsile, et enamasti ei saa ZeroEyes’i kliendid kunagi valehäiret, kuid ettevõte ei ole avalikustanud, kui palju valehäireid neil olnud on või kui palju relvi on avastatud. Märtsis, kui mõned õpilased hakkasid ZeroEyes’i kahtluse alla seadma pärast seda, kui see märkas Nerf-relva lähedalasuvas erakoolis, kinnitas kool, et süsteem eksib sageli.
Kuidas see lugu Sind end tundma pani? Saada Kommenteeri Loe kommentaare (14)