Генеральний прокурор Каліфорнії надіслав Маску наказ про припинення діяльності xAI через сексуальні діпфейки

Генеральна прокуратура Каліфорнії оголосила про розслідування діяльності xAI через повідомлення про те, що чат-бот стартапу Grok використовувався для створення сексуальних зображень жінок та неповнолітніх без згоди . Наразі уряд надіслав компанії лист про припинення діяльності, вимагаючи негайно вжити заходів для припинення виробництва інтимних зображень без згоди та матеріалів про сексуальне насильство над дітьми (CSAM).

«Сьогодні я надіслав xAI листа з вимогою припинити діяльність, вимагаючи від компанії негайно припинити створення та розповсюдження діпфейкових, недобросовісних, інтимних зображень та матеріалів про сексуальне насильство над дітьми», – заявив генеральний прокурор Каліфорнії Роб Бонта у прес-релізі . «Створення цього матеріалу є незаконним. Я повністю очікую, що xAI негайно виконає це зобов’язання. Каліфорнія має нульову толерантність до [сексуального насильства над дітьми]».

Офіс генерального прокурора також заявив, що xAI, схоже, «сприяє масштабному виробництву» оголених фотографій без згоди, подібні до яких «використовуються для переслідування жінок та дівчат в інтернеті». Агентство заявило, що очікує, що xAI доведе, що воно вживає заходів для вирішення цих проблем протягом наступних п'яти днів.

В основі негативної реакції лежить функція «гострого» режиму Grok, яку xAI створив для створення відвертого контенту. Проблема поширилася за межі Каліфорнії; Японія, Канада та Велика Британія розпочали розслідування щодо Grok, а Малайзія та Індонезія тимчасово повністю заблокували платформу . Незважаючи на те, що xAI запровадила деякі обмеження на свої функції редагування зображень пізно в середу , офіс Генерального прокурора Каліфорнії продовжив роботу над листом про припинення діяльності.

Раніше в обліковому записі безпеки X засуджувався такий тип діяльності користувачів, заявляючи: «Будь-хто, хто використовує Grok або спонукає його створювати незаконний контент, зазнає тих самих наслідків, що й завантаження незаконного контенту». TechCrunch звернувся до xAI за коментарем і отримав автоматичний електронний лист із написом «Брехня застарілих ЗМІ». TC також звернувся до офісу генерального прокурора Каліфорнії за додатковою інформацією.

Поява безкоштовних інструментів генеративного штучного інтелекту призвела до тривожного зростання кількості матеріалів сексуального характеру без згоди . Багато платформ, не лише X, борються з цією проблемою. Ця брудна діяльність привернула увагу не лише лідерів штатів, а й Конгресу. Дійсно, у четвер законодавці надіслали листа керівникам кількох компаній, включаючи X, Reddit, Snap, TikTok, Alphabet та Meta, із запитанням, як вони планують зупинити поширення сексуалізованих діпфейків.