kako prepoznati umetno ustvarjene fotografije?

Za umetno generirano fotografijo preminulega spolnega prestopnika Harveyja Weinsteina so nekatera orodja trdila, da je resnična, eno pa jo je celo ocenilo kot »100-odstotno človeško delo«. Foto: zajem zaslona

Med resnico in iluzijo: kako prepoznati umetno ustvarjene fotografije?

Razmah fotografij, ustvarjenih z umetno inteligenco, je ustvaril povpraševanje po novi vrsti orodij: spletnih straneh in aplikacijah, ki trdijo, da lahko ugotovijo, ali je bila fotografija ustvarjena ali spremenjena z umetno inteligenco.

Novinarji pri France24 so preizkusili deset takih orodij na fotografiji ameriškega spolnega prestopnika Jeffreyja Epsteina, za katero se ve, da jo je ustvarila umetna inteligenca (UI). Fotografija, ki prikazuje moškega s sončnimi očali, belimi lasmi in brado, je bila objavljena februarja 2026 s trditvijo, da prikazuje Epsteina še živega. V resnici je Epstein umrl leta 2019 v zaporu.

Fotografijo so testirali z naslednjimi orodji za zaznavanje UI: WasitAI.com, Isgen.ai, AIorNot.com, Decopy.ai, Rephrasy.ai, Sightengine.com, Hivemoderation.com, Undetectable.ai, Mydetector.ai in ZeroGPT.com.

Nekatera orodja so trdila, da je fotografija resnična, eno pa jo je celo ocenilo kot »100-odstotno človeško delo«.

Le tri orodja – AIorNot, ZeroGPT in Undetectable.ai – so pravilno prepoznala, da je fotografija ustvarjena z umetno inteligenco. Druga so trdila, da je resnična. Temu pravimo »lažno negativni rezultat«.

Naravne in sintetične fotografije

»Lažno negativen rezultat pomeni, da orodje ne zazna, da obstaja problem,« pravi Tina Nikoukhah, podpredsednica za raziskave v ameriškem podjetju GetReal Security. »Morda orodje ni posodobljeno ali pa ni dobro prilagojeno nalogi.«

Nikoukhah nadaljuje: »Razvoj programske opreme za zaznavanje UI je kompleksen. Večina takih orodij je ‘klasifikatorjev’. To pomeni, da slike razvrščajo v dve kategoriji, ‘naravne’ in ‘sintetične’. Včasih pa detektorji niso dovolj dobro naučeni na določenih fotografijah. Lahko so dobri pri zaznavanju fotografij, ustvarjenih z enim UI-generatorjem, ne pa z drugim.«

Orodja za zaznavanje UI lahko zmedejo tudi fotografije nizke ločljivosti ali stisnjene fotografije. Slabša kakovost namreč otežuje prepoznavanje umetne inteligence.

„Ustvarjeno z google UI“

Nikoukhah poudarja, da obstajajo določeni zaščitni mehanizmi: »Nekateri generatorji fotografij z umetno inteligenco v svoje fotografije vgradijo neviden vodni žig v pikslih. To je podobno kot vodni žig, ki ga fotograf doda na fotografijo, ko jo prodaja. Vidite njegovo ime na fotografiji. Tukaj je ideja enaka, le da je vodni žig neviden.«

To velja za fotografije, ustvarjene z Googlovimi orodji umetne inteligence. Ko v googlu kliknete zavihek »o tej fotografiji«, dobite sporočilo, ali je bila »ustvarjena z google UI ali ne«.

»Kontaktirali smo spletne strani za zaznavanje, ki niso pravilno prepoznale Epsteinove fotografije kot umetno ustvarjene. Povedali so, da bodo svoja orodja še naprej izboljševali, saj se tehnologija umetne inteligence razvija,« so še zapisali pri France24.