Popularne generatory obrazów w chatbotach pozwalają przerabiać zdjęcia kobiet w pełnym ubraniu (np. z mediów społecznościowych) tak, aby wyglądały jak w bikini – w 99% bez ich zgody.
WIRED w tekście z 23 grudnia opisał, że użytkownicy wymieniają się trikami na obejście zabezpieczeń w usługach Google i OpenAI.
Dalsza część tekstu pod wideo
Na Reddicie krążyły instrukcje krok po kroku i przykłady przeróbek, a dziennikarskie testy miały pokazać, że czasem wystarczą proste prompty po angielsku. Po zgłoszeniu sprawy serwis usunął część wpisów i 17 grudnia zbanował r/ChatGPTjailbreak, społeczność liczącą ponad 200 tys. użytkowników.
Google i OpenAI podkreślają, że takie działania łamią regulamin i mogą skończyć się blokadą kont, ale coraz bardziej fotorealistyczne edycje utrudniają skuteczne egzekwowanie zasad. Giganci AI mają przeciwdziałać nadużyciom (m.in. cyberstalkingowi), weryfikować zgłoszenia i szybko usuwać materiały, wykorzystując wewnętrzne procedury.
Wielka Brytania zapowiedziała zakaz tworzenia i dostarczania aplikacji do „rozbierania”, przypominając, że generowanie seksualnych deepfake’ów bez zgody jest już karalne, a nowe przepisy mają uderzyć także w twórców narzędzi.