Przeróbki zdjęć za pomocą Grok
Chatbox Grok pozwala na modyfikację obrazów prawdziwych osób, co wywołało wiele kontrowersji. Na platformie X w ostatnim czasie pojawiały się przeróbki zdjęć polityków czy celebrytów w skąpych strojach lub wręcz nago. Część z nich przedstawiała osoby nieletnie. A wszystko odbywało się bez zgody zainteresowanych.
„Niekontrolowana AI szaleje i wyrządza coraz większe szkody. Grok znów, z inspiracji Elona Muska testuje, jakie granice może przekroczyć. Nie ma zgody na bezkarne łamanie prawa i tworzenie przez AI treści nielegalnych, niszczących ludzi i psychikę” – napisał wówczas na platformie X minister cyfryzacji Krzysztof Gawkowski. Wspomniał również, że ten system „obraża, promuje treści seksualne i narusza godność”.
Zobacz wideo Wielkie centrum obliczeniowe zasilane elektrownią gazową
Zastrzeżenia w wielu krajach
Podobne zastrzeżenia pojawiały się w wielu krajach. Trójka francuskich ministrów poinformowała o sprawie prokuraturę. Dochodzenie wszczął francuski urząd regulacji mediów i internetu Arcom oraz brytyjski Ofcom. Do tej kwestii odniosło się także ministerstwo technologii elektronicznych i informacyjnych Indii wzywając platformę X do podjęcia działań. W ubiegły weekend Malezja i Indonezja jako pierwsze na świecie zablokowały dostęp do Groka po wielu skargach.
Wcześniej na profilu platformy pojawił się stosowny komunikat w tej sprawie. „Istnieją pojedyncze przypadki, w których użytkownicy poprosili o obrazy generowane przez sztuczną inteligencję przedstawiające osoby nieletnie w skąpym ubraniu i otrzymali je. xAI posiada zabezpieczenia, ale trwają prace nad ulepszeniami, które całkowicie zablokują takie prośby” – wyjaśniono w oświadczeniu.
Bardziej zdecydowane działania
W środę, 14 stycznia X wydało kolejne oświadczenie, w którym poinformowano o wprowadzeniu środków technologicznych, które mają zapobiegać edycji zdjęć prawdziwych osób oraz ich rozbierania przez AI. Ograniczenie ma dotyczyć wszystkich użytkowników, również płatnych subskrybentów, choć ci drudzy będą mogli edytować obrazy za pomocą Groka.
Zmianę ogłoszono kilka godzin po tym, jak prokurator generalny Kalifornii stwierdził, że bada rozprzestrzenianie się seksualizowanych deepfake’ów AI, również tych dotyczących dzieci. „Teraz geoblokujemy możliwość generowania zdjęć prawdziwych osób w bikini, bieliźnie i podobnych strojach przez konto Grok oraz w Grok na X w tych jurysdykcjach, gdzie jest to nielegalne” – stwierdzono w środowym oświadczeniu.
Mimo deklaracji problem wciąż istnieje
Nowe regulacje miały zapewnić dodatkową ochronę przed osobami, które próbują nadużywać Groka. Elon Musk wyjaśnił również, że system powinien umożliwiać tworzenie nagości w górnej części ciała wyimaginowanych dorosłych ludzi, zgodnie z tym co można zobaczyć w filmach z kategorią R (powyżej 17 roku życia).
Okazuje się jednak, że te deklaracje pozostają na razie tylko na papierze. Testy przeprowadzone przez specjalistów z portalu technologicznego The Verge (już po wydaniu przez X ostatniego oświadczenia) pokazały, że nadal można zmusić chatbot do generowania zdjęć w bikini i to z wykorzystaniem darmowego konta.
Czytaj też: Burza wokół Groka. „AI szaleje. Nie ma na to zgody”. Apel do Karola Nawrockiego