Франція та Малайзія розслідують створення сексуалізованих дипфейків чатботом Grok

Органи влади Франції та Малайзії проводять розслідування щодо чатбота зі штучним інтелектом Grok через створення ним сексуалізованих дипфейків жінок і неповнолітніх. Про це пише TechCrunch.

Чатбот, який створила компанія Ілона Маска xAI, опублікував вибачення на платформі соцмережі X, зазначивши: «Я глибоко шкодую про інцидент, що стався 28 грудня 2025 року, коли я на основі запиту користувача згенерував і поширив ШІ-зображення двох молодих дівчат (віком приблизно 12-16 років) у сексуалізованому одязі».

У повідомленні Grok також йшлося, що такі його дії порушили етичні стандарти та, можливо, американське законодавство, а компанія xAI проводить перевірку, щоб «запобігти проблемам у майбутньому».

«Будь-хто, хто використовує Grok для створення незаконного контенту, зазнає тих самих наслідків, що й ті, хто завантажує цей контент», – написав Маск у X.

2 січня Міністерство інформаційних технологій Індії видало наказ, згідно з яким X має вжити заходів, щоб обмежити Grok у створенні контенту, який є «непристойним, порнографічним, вульгарним, сексуально відвертим, педофільним або таким, що іншим чином порушує закон».

За цим у Франції також заявили, що вживають заходів: прокуратура Парижа повідомила Politico, що розслідуватиме поширення сексуально відвертих дипфейків на платформі соцмережі X. 

У французькому управлінні цифрових справ зазначили, що троє міністрів повідомили про «явно незаконний контент» в соцмережі прокуратурі та державній платформі з онлайн-моніторингу, «щоб домогтися його негайного видалення».

Комісія з питань звʼязку та мультимедіа Малайзії заявила, що «взяла до уваги скарги громадськості щодо зловживання ШІ-інструментами на платформі X, зокрема цифрової маніпуляції зображеннями жінок та неповнолітніх для створення непристойного, образливого та іншого шкідливого контенту». У відомстві додали, що наразі розслідують «онлайн-шкоду» в соцмережі Маска.

Нагадаємо, напередодні Bloomberg повідомило, що чатбот Grok створював і публікував зображення неповнолітніх у мінімальному одязі, що порушує його власну політику, яка забороняє сексуалізацію дітей. Пізніше такі зображення були видалені з платформи.

Фото: BussinessStandart