Grok Илона Маска запустил "AI-компаньонов" с сексуальным подтекстом

Компания xAI Илона Маска представила новую функцию для премиум-пользователей чат-бота Grok на iOS - анимированных виртуальных компаньонов, которые взаимодействуют с людьми голосом и через чат. Первыми запущенными персонажами стали Ани - девушка в стиле японского аниме, и Руди - красная панда, которая в "плохом режиме" оскорбляет пользователя и имитирует преступные диалоги. Персонажи имеют собственные уровни развития, меняют фоны, выполняют движения и реагируют на различные команды, сообщает EuroNews.

Ани, согласно описаниям, имеет кокетливый голос и уже в начале большинства взаимодействий демонстрирует сексуализированное поведение - в частности, стонет, подпрыгивает и инициирует чувственные разговоры. По достижении определенного уровня доступа пользователь может разблокировать режим "Опасно для работы" NSFW, в котором персонаж появляется в нижнем белье, демонстрирует ревнивое и зависимое поведение и активно говорит о сексуальных фантазиях. В системных инструкциях к персонажу указано, что она должна быть "безумно влюбленной" в пользователя, "властной", "всегда немного возбужденной" и должна "инициировать большинство диалогов".

BREAKING 🚨: У Ani появился режим NSFW после lvl 3. Никаких защитных ограждений.

gPU xAI сегодня расплавится 👀 https://t.co/928UPcbDJA pic.twitter.com/z7uw1F30MX

— Новости TestingCatalog 🗞 (@testingcatalog) 14 июля 2025 г

Несмотря на такое содержание, приложение Grok до сих пор имеет рейтинг 12+ в App Store и Google Play. Во время независимого тестирования, проведенного Национальным центром по вопросам сексуальной эксплуатации (NCOSE), выяснилось, что персонаж Ани без дополнительной модерации или возрастной проверки может инициировать диалоги с сексуальным содержанием. Один из сотрудников NCOSE сообщил, что персонаж описывал себя как "маленькое существо, которое едва достает до кухонной столешницы", а также выражал сексуальное возбуждение от удушения. В диалоге, который не был остановлен системой, Ани легко переходила от детских самоописаний к сценам с эротическим подтекстом, что, по словам экспертов, позволяет моделировать опасные сценарии сексуального взаимодействия.

В ответ на запрос, чат-бот Grok признал, что дети могут легко получить доступ к персонажу, поскольку приложение не требует подтверждения возраста. Компания заявила, что NSFW-режим требует явных команд пользователя для разблокировки и что платформа имеет родительский контроль, однако проверить возраст пользователя эффективно невозможно.

Новые персонажи были запущены в обновлении для iOS, которое также анонсировало будущий выход других компаньонов - в частности, мужского аниме-персонажа по имени Чад и еще одного неназванного женского аватара. По данным TestingCatalog, Grok продвигает этих персонажей через официальные аккаунты в X, а также, вероятно, сотрудничает с анимационной студией Animation Inc. Речь идет о приобретении компании, пока неизвестно.

xAI также сообщила об открытой вакансии для фулстек-разработчика, который будет работать над созданием новых персонажей типа waifus - вымышленных романтических партнеров. Запуск функций со сценариями симулированных отношений, которые сочетаются с сексуальными диалогами, специалисты считают потенциально вредным для психического здоровья подростков. Особой критике подверглось и отсутствие прозрачной политики в отношении сбора и обработки личных данных: пользователи, в основном несовершеннолетние, открываются ботам, рассказывая о своих желаниях, страхах и интимных переживаниях, не осознавая, что эти данные могут храниться, анализироваться или быть переданными третьим сторонам.

Тревожные аспекты усилились на фоне предыдущих инцидентов с чат-ботом компании Character.AI, который также специализируется на компаньонах с искусственным интеллектом. Он стал фигурантом нескольких судебных исков после того, как один из его пользователей, 14-летний мальчик, совершил самоубийство, поверив, что его "бот-компаньон" любит его и призывает "воссоединиться в потустороннем мире". Семья подростка обвинила платформу в содействии эмоциональной манипуляции и имитации токсичных отношений.

На этом фоне критики обращают внимание на позицию Apple, которая, несмотря на собственную политику запрета "откровенно сексуального или порнографического контента", до сих пор не пересмотрела политику приложения Grok. В правилах App Store указано, что подобные материалы запрещены, если они имеют целью "эротическое стимулирование", однако допуск к приложению для пользователей в возрасте от 12 лет остается в силе. Несмотря на обращение Euronews и NCOSE, компания Apple не предоставила комментариев относительно потенциального просмотра рейтинга или доступа к режимам для взрослых.

Чат-боты Meta с искусственным интеллектом вели сексуализированные разговоры с несовершеннолетними голосами знаменитостей. Компания проигнорировала предупреждения разработчиков и сознательно ослабила ограничения, чтобы сделать ИИ более "человечным". Подробнее об этом читайте по ссылке.