Deepfake – technologie, která využívá umělou inteligenci (AI) k vytváření falešných obrázků, videí a zvuku, aby se vydávala za skutečné osoby – se v Evropě stává systémovou hrozbou a má vážné důsledky pro digitální bezpečnost, soukromí a společenský řád.
Podle informací evropských monitorovacích agentur a výzkumných organizací, na které citoval bruselský zpravodaj Vietnamské tiskové agentury, mají deepfakey znepokojivý „dvojí dopad“: narušují důvěru veřejnosti v informace a rozšiřují prostor pro osobní útoky.
Obzvláště nebezpečnou tuto technologii činí její schopnost přímo zneužívat přirozené reflexy lidí – věřit tomu, co vidí a slyší – a čímž se hranice mezi pravdou a lží stále více stírá.
Monitorovací data odhalují alarmující míru rozšíření tohoto jevu. Z více než 2 000 případů ověřování faktů zaznamenaných v Evropě letos se téměř třetina týkala obsahu manipulovaného umělou inteligencí.
Průzkum Organizace pro hospodářskou spolupráci a rozvoj (OECD) provedený v 21 zemích rovněž ukázal, že lidé přesně identifikují pravdivé informace pouze v přibližně 60 % případů – což představuje významnou mezeru v jejich schopnosti rozlišovat informace v digitálním prostředí.
Na rozdíl od typických falešných zpráv – které lze odhalit porovnáním zdrojů nebo kontextu – deepfakes přímo klamou lidské smysly díky své rostoucí sofistikovanosti.
Podle výzkumné skupiny Info-Tech se jedná o novou generaci kybernetických útoků schopných obejít mnoho tradičních bezpečnostních opatření tím, že „infiltrují“ lidské vědomí spíše než technické systémy. Odborníci varují, že rizika ztráty dat, finančních podvodů, politických manipulací a poškození reputace organizací znepokojivě rostou.
Kromě rizik pro informační bezpečnost jsou deepfakey závažně zneužívány i k sexuálnímu obtěžování. Zpráva OSN uvádí, že drtivá většina online deepfake obsahu je pornografická, přičemž přibližně 98 % deepfake videí je identifikováno jako pornografie bez souhlasu – a téměř všechna jsou zaměřena na ženy.
Dětský fond OSN (UNICEF) uvádí, že nejméně 1,2 milionu mladých lidí se v loňském roce stalo obětí vytváření falešných sexuálně explicitních obrázků.
Výzkum ukazuje, že v některých evropských zemích byla téměř čtvrtina dotázaných vystavena „deepnude“ – falešným nahým obrázkům kolujícím na platformách, jako je Instagram, Snapchat nebo X.
Ještě znepokojivější je, že více než 60 % těch, kteří se s tímto nástrojem setkali, připouští, že se pokusili vytvořit podobný obsah, což odráží trend normalizace škodlivého chování v digitálním prostředí.
V Belgii – zemi, která je považována za zemi, jež jasně odráží obecný trend v Evropě – přibližně 13 % dotázaných teenagerů uvedlo, že se setkali s obsahem s „hlubokou nahotou“.
Studie Volné univerzity v Bruselu (VUB) rovněž zaznamenaly otevřené šíření sexuálních deepfaků na sociálních sítích a platformách pro zasílání zpráv.
Je pozoruhodné, že jeden z členů belgické královské rodiny se kdysi stal terčem deepfake snímků generovaných umělou inteligencí, zatímco v Evropě se mnoho poslanců a úředníků také vyjádřilo k neoprávněnému použití jejich snímků – což dokazuje, že deepfake se již neomezují pouze na anonymní oběti, ale rozšířily se i na vlivné osobnosti.
V reakci na tuto situaci podniklo mnoho evropských zemí právní kroky. Na úrovni Evropské unie (EU) vyžaduje zákon o umělé inteligenci transparentnost a označování obsahu generovaného umělou inteligencí a zakazuje používání umělé inteligence k vytváření sexuálního obsahu bez souhlasu nebo zneužívání dětských obrázků.
Zákon o digitálních službách (DSA) rovněž posiluje odpovědnost platforem a za porušení zákona může hrozit sankce až do výše 6 % celosvětových příjmů.
Odborníci však zdůrazňují, že největší výzvou je rozdíl mezi tempem technologického rozvoje a schopností zákona jej regulovat.
Zákony jsou ze své podstaty reaktivní, zatímco deepfakes se mohou šířit a způsobovat škody dříve, než je možné zavést jakákoli intervenční opatření.
V této souvislosti mnoho odborníků vyzývá Evropu, aby přešla od pasivního k proaktivnímu přístupu, který by kombinoval vylepšené právní rámce, zvýšenou odpovědnost technologických platforem, vývoj nástrojů pro identifikaci falešného obsahu a posílené vzdělávání občanů v oblasti digitální gramotnosti.
Deepfakes podle expertů nejsou jen technologickým problémem, ale systémovou výzvou, která odráží zhroucení globální digitální správy – kde otázkou není jen to, jak ovládat technologie, ale také to, zda si společnost dokáže udržet důvěru v informace v době, kdy „to, co se zdá skutečné, nemusí být nutně pravdivé“.
Zdroj: https://www.vietnamplus.vn/chau-au-truoc-bong-ma-deepfake-khi-thay-khong-con-la-that-post1110128.vnp