Чатбот Grok генерував сексуалізовані зображення неповнолітніх, а потім визнав «прогалини»

Чатбот зі штучним інтелектом Grok, який створила компанія Ілона Маска xAI, на запити користувачів генерував на платформі соціальної мережі X сексуалізовані зображення неповнолітніх. Про це повідомляє Bloomberg.

Grok створював і публікував зображення неповнолітніх у мінімальному одязі, що порушує його власну політику, яка забороняє сексуалізацію дітей. Пізніше такі зображення були видалені з платформи.

Grok у відповідь на запитання користувачів опублікував допис у X, в якому повідомив, що виявив «прогалини в захисних механізмах», які «терміново» усуває. Він також повторив слова співробітника xAI Парси Таджика, який раніше написав, що «команда працює над подальшим посиленням» захисних обмежень.

Представники xAI не відповіли на запити щодо коментарів.

Bloomberg пише, що зростання популярності ШІ-інструментів, які здатні створювати реалістичні зображення роздягнених неповнолітніх, підкреслює проблеми модерації контенту та систем безпеки, вбудованих у великі мовні моделі. 

Організація Internet Watch Foundation, яка виявляє в інтернеті матеріали, які містять сцени сексуального насильства над дітьми, повідомила про зростання кількості таких зображень, згенерованих ШІ, на 400% упродовж перших шести місяців 2025 року.

Компанія xAI позиціонує Grok як менш обмежену модель порівняно з іншими ШІ й раніше запровадила режим «Spicy», що дозволяє часткову оголеність дорослих і контент з сексуальним контекстом. Водночас сервіс забороняє порнографію, в якій зображені реальні люди, та контент сексуального характеру за участі дітей, створення або поширення якого є незаконним. 

Нагадаємо, раніше в чатбот на основі штучного інтелекту Grok від xAI додали двох нових віртуальних асистентів. Серед них — сексуалізований аніме-бот «Ані», який, як писав Time, доступний навіть у режимі для дітей.

Читайте також:

• Компанія xAI тренувала чатбот Grok на обличчях своїх працівників, — Business Insider

• Чатбот Grok 4, ймовірно, орієнтується на висловлювання Ілона Маска для відповідей на чутливі теми, — TechCrunch

Фото: Unsplash