Afera wokół Groka. „AI szaleje”

Użytkownicy platformy X odkryli, że chatbot Grok pozwala przerabiać zdjęcia, aby przedstawiały osoby w określonym stroju. Od kilku dni w serwisie należącym do Elona Muska pojawiają się przeróbki zdjęć osób publicznych i prywatnych praktycznie pozbawionych ubrań (najczęściej w bikini). Zmodyfikowane obrazy powstają również bez zgody osób, które są na nich obecne i pokazują m.in. polityków oraz osoby nieletnie.

Na problem z Grokiem zwrócił uwagę minister cyfryzacji Krzysztof Gawkowski. „Niekontrolowana AI szaleje i wyrządza coraz większe szkody. Grok znów, z inspiracji Elona Muska testuje, jakie granice może przekroczyć. Nie ma zgody na bezkarne łamanie prawa i tworzenie przez AI treści nielegalnych, niszczących ludzi i psychikę” – napisał na platformie X. Podkreślił, że ten system „obraża, promuje treści seksualne i narusza godność”.

Zobacz wideo Ellison w ciągu jednego dnia zyskał gigantyczne pieniądze

Gawkowski wskazał też, że dostępne są już narzędzia do walki z tego typu treściami w internecie. Chodzi o projekt ustawy o świadczeniu usług drogą elektroniczną, która pod koniec listopada 2025 r. została uchwalona przez Sejm. W grudniu ustawę uzupełniono o poprawki Senatu, a obecnie oczekuje na podpis prezydenta. „Wzywam Prezydenta Nawrockiego do jak najszybszego podpisania ustawy o usługach cyfrowych, a dzięki temu usuwanie nielegalnych treści będzie łatwiejsze. Koniec gadania, potrzebujemy działania” – dodał.

Francja i Indie reagują ws. Groka

Minister gospodarki Francji Roland Lescure, ministerka ds. cyfryzacji i sztucznej inteligencji Anne Le Henanff oraz ministerka ds. równości Aurore Berge poinformowali prokuraturę o treściach generowanych przez Groka. Powiadomiono również Arcom, czyli państwowego regulatora mediów i internetu, aby sprawdził, czy materiały są zgodne z Aktem o usługach cyfrowych Unii Europejskiej. Z kolei ministerstwo technologii elektronicznych i informacyjnych Indii wezwało platformę X do podjęcia działań w sprawie sztucznej inteligencji.

Tymczasem na profilu Groka pojawił się komunikat w powyższej sprawie. Wyjaśniono, że przerobione grafiki pojawiają się w serwisie X z powodu luk w zabezpieczeniach. „Istnieją pojedyncze przypadki, w których użytkownicy poprosili o obrazy generowane przez sztuczną inteligencję przedstawiające nieletnie w skąpym ubraniu i otrzymali je. xAI posiada zabezpieczenia, ale trwają prace nad ulepszeniami, które całkowicie zablokują takie prośby” – czytamy w oświadczeniu zamieszczonym na profilu chatbota.

Jak Grok przerabia zdjęcia?

Łukasz Olejnik, niezależny badacz i konsultant cyberbezpieczeństwa i prywatności wyjaśnił na platformie X, że Grok, technicznie ujmując, nie „zdejmuje” ubrań z osób, które znajdują się na zdjęciach. AI generuje nowe piksele na podstawie statystycznych korelacji z danych treningowych. „To trochę halucynacja. Choć faktycznie może to podpadać pod przepisy o ochronie wizerunku, dóbr osobistych czy fałszywym przedstawieniu osoby w kontekście intymnym” – podkreślił.

„Tak, edycje tych zdjęć są nadużyciem na granicy etyki. Nie, niestety nie da się już tego zablokować, bo jak nie tu, to będzie to możliwe gdzie indziej lub nawet lokalnie na własnym komputerze. Nawet jeśli ktoś oceni to jako smutne, to warto podejść ze zrozumieniem i się przyzwyczaić. Choćby dlatego, że niewiele można już zrobić. Tzn. można się oburzać. A następnie kolejny raz i kolejny” – dodał Olejnik.