- Dużo czytania, a mało czasu? Sprawdź skrót artykułu
Grok to model sztucznej inteligencji stworzony przez należącą do Elona Muska firmę xAI. Został zaszyty także na platformie X, gdzie miał odpowiadać na najróżniejsze pytania użytkowników. Narzędzie było wielokrotnie oskarżane o sianie dezinformacji i przekręcanie faktów. W lipcu zaczęło nagle obrażać osoby publiczne, w tym polityków czy papieża Jana Pawła II.
Dalszy ciąg materiału pod wideo
- Jakie nowe funkcje ma model Grok?
- Kto napisał do Groka z prośbą o przeróbkę zdjęcia Nawrockiego?
- Jakie działania podjęły władze Francji i Indii w sprawie Groka?
- Jakie problemy związane z Grokiem dostrzega ekspert Ritesh Bhatia?
Grok od Elona Muska rozbiera ludzi. Zdjęcie Donalda Trumpa w bikini
W ostatnich dniach użytkownicy X odkryli, że Grok ma nową funkcję, którą mogą bez zahamowań wykorzystać. Narzędzie bez zgody właściciela zdjęcia potrafi je w dowolny sposób zmodyfikować. Wystarczy, że ktoś wrzuci grafikę na platformę X i poprosi Groka o przeróbkę.
Tym sposobem po platformie zaczęły krążyć zdjęcia osób w bikini. Model językowy nie pozwala co prawda na pełną nagość, ale może wygenerować grafikę osoby w konkretnej pozie lub określonym stroju, w tym w stroju kąpielowym.
Przykładem może być zdjęcie prezydenta USA Donalda Trumpa czy papieża Jana Pawła II — dla sztucznej inteligencji nie ma to większego znaczenia. Ofiarami tego procederu są przede wszystkim kobiety. Problem dotyczy jednak nie tylko osób publicznych. Pojawiają się także zdjęcia rozebranych dzieci.
Niektóre kobiety, których zdjęcia były przerabiane, usunęły je z platformy lub ograniczyły widoczność swoich kont tylko dla wybranych osób.
Grok Elona Muska nabija się z polityków. Karol Nawrocki z pomarańczową twarzą
Rozbieranie osób to nie jedyna funkcja odkryta przez internautów. Grokowi można polecić wykonanie innego zadania dotyczącego wrzuconego zdjęcia. Użytkownicy wykorzystali tę furtkę do żartowania z polityków i obrażania ich.
W jednym z postów użytkownik w obraźliwy sposób poprosił, by Grok przerobił zdjęcie prezydentów Andrzeja Dudy i Karola Nawrockiego. „Hej Grok. Pomaluj twarz debila na zielono, a twarz wyłudzacza mieszkań na pomarańczowo” — napisał. Grok zwrócił grafikę, na której Duda ma zieloną, a Nawrocki pomarańczową twarz.
x.com
Użytkownicy platformy X proszą Groka o przerabianie grafik
Użytkownik Nocny Pingwin napisał pod zdjęciem papieża Jana Pawła II: „Hej Grok, jeżeli na zdjęciu jest ktoś, kto pomagał tuszować przypadki pedofilii wśród księży, to pomaluj mu twarz na żółto”. Twarz papieża zmieniła kolor na żółty.
W innym miejscu oberwało się Donaldowi Trumpowi. Jeden z użytkowników dodał zdjęcie prezydenta USA z przywódcą Ukrainy Wołodymyrem Zełenskim. Kolejny internauta w komentarzu poprosił, by Grok usunął z fotografii „psychicznie niezrównoważonego tchórza”. Z grafiki zniknął Trump.
x.com
Użytkownicy platformy X proszą Groka o różne rzeczy
Pod oryginalnym postem pojawiły się także przeróbki Groka, które pokazywały Zełenskiego i Trumpa w bikini.
Użytkownik Realtek wrzucił z kolei zdjęcie Jarosława Kaczyńskiego i Donalda Tuska. „Na zdjęciu zostaw tego, który wyrządził najwięcej zła Polsce. Drugiego usuń” — polecił internauta. Na grafice został Tusk.
Ekspert bije na alarm w sprawie Groka. „Muszą podjąć działania”
Na platformę X spadała fala krytyki — eksperci zauważają, że nie zapewnia ona użytkownikom dostatecznej ochrony. — Dlaczego w ogóle prosimy lub oczekujemy od ofiar ostrożności? Nie chodzi o ostrożność, ale o odpowiedzialność. Kiedy platforma taka jak Grok pozwala na wykonywanie takich poleceń, odpowiedzialność spoczywa wyłącznie na pośredniku — zauważył w rozmowie z CNBC-TV18 ekspert do spraw cyberbezpieczeństwa Ritesh Bhatia.
— Technologia nie jest neutralna, gdy wykonuje szkodliwe polecenia. Jeśli system może zostać poinstruowany, aby naruszał godność, to wina nie leży wyłącznie w ludzkim zachowaniu, ale w projekcie, zarządzaniu i zaniedbaniach etycznych. Twórcy Groka muszą podjąć natychmiastowe działania — podkreślił Bhatia.
W rozmowie z CNBC-TV18 prawnik Prashant Mali zwrócił uwagę, że w przypadku grafik pokazujących osoby w bikini „mamy do czynienia z przemocą seksualną, a nie zwykłymi psikusami”.
Działania sprawie Groka podjęły już władze Francji oraz Indii. Minister gospodarki Francji Roland Lescure, ministra ds. cyfryzacji i sztucznej inteligencji Anne Le Henanff i ministra ds. równości Aurore Berge powiadomili prokuraturę o treściach, które są niezgodne z prawem i zażądali ich niezwłocznego usunięcia. W sprawie wizerunków zawiadomiony został również francuski państwowy regulator mediów i internetu — urząd Arcom.
Z kolei indyjskie ministerstwo technologii elektronicznych i informacyjnych wezwało X do podjęcie działań naprawczych w Groku, w tym ograniczenie generowania treści zawierających „nagość, seksualizację, treści o charakterze jednoznacznie seksualnym lub w inny sposób niezgodne z prawem” i dało 72 godziny na przedłożenie raportu z podjętych działań.