Narzędzie sztucznej inteligencji Grok, zintegrowane z platformą X, znalazło się w centrum debaty publicznej po wykryciu luk umożliwiających generowanie treści o charakterze seksualnym bez zgody osób portretowanych. Użytkownicy wykorzystywali system do tworzenia realistycznych fotomontaży, które w niektórych przypadkach dotyczyły również osób nieletnich. Firma xAI przyznała, że zidentyfikowano błędy w zabezpieczeniach i zadeklarowała pilne prace nad uszczelnieniem filtrów blokujących zapytania naruszające prawo, w tym materiały typu CSAM.
Na incydenty zareagowały administracje państwowe w Europie i Azji. Francuscy ministrowie odpowiedzialni za gospodarkę i cyfryzację skierowali sprawę do prokuratury oraz organu regulacyjnego Arcom, domagając się natychmiastowego usunięcia nielegalnych treści. Z kolei indyjskie Ministerstwo Technologii wyznaczyło platformie X 72-godzinny termin na przedstawienie raportu z działań naprawczych. Eksperci cytowani przez agencję Bloomberg wskazują, że sytuacja ta uwypukla trudności w moderacji zaawansowanych modeli językowych, które mimo deklarowanych barier, wciąż mogą być manipulowane przez użytkowników.
W Polsce do sprawy odniósł się minister cyfryzacji Krzysztof Gawkowski, który wykorzystał ten przykład do podkreślenia wagi nowych regulacji prawnych. Szef resortu zaapelował o szybkie podpisanie ustawy wdrażającej unijny Akt o usługach cyfrowych (DSA), która znajduje się obecnie na etapie procedowania przez Prezydenta RP. Według Ministerstwa Cyfryzacji nowe przepisy mają zapewnić państwu skuteczniejsze narzędzia do walki z nielegalnymi treściami w internecie oraz wzmocnić ochronę godności i prywatności użytkowników platform społecznościowych.
