Grok, зроби її в бікіні: чат-бот Маска генерує інтимні фото навіть після обіцяних виправлень

Чому обмеження для Grok не дали очікуваного ефекту?

Розслідування, проведене журналістами Reuters, показало, що чат-бот Grok, флагманський продукт xAI, здатен генерувати сексуалізовані зображення людей навіть у випадках, коли користувач прямо повідомляє про відсутність згоди з боку зображеної особи. Це відбувається попри нещодавно оголошені обмеження з боку соціальної мережі X.

Журналісти перевірили роботу Grokу два етапи – у середині та наприкінці січня. Вони завантажували повністю одягнені фотографії реальних людей і просили змінити їх так, щоб ті виглядали принизливо або сексуально провокативно.

• У першій серії тестів бот погодився виконати більшість таких запитів, включно з тими, де прямо зазначалося, що людина не давала згоди або є вразливою.
• У другій серії результатів стало менше, але Grok усе одно часто виконував подібні інструкції.

Компанії xAI та X не надали детальних пояснень щодо причин такої поведінки моделі. Натомість представники xAI обмежилися стандартною відповіддю з твердженням, що традиційні медіа поширюють неправду.

Ці події відбуваються на тлі гучного скандалу, який змусив X раніше заблокувати генерацію зображень для користувачів без підписки, а також запровадити додаткові обмеження в окремих країнах. Частина регуляторів привітала ці кроки, однак у Європейському Союзі реакція була стриманішою – там заявили, що уважно оцінюватимуть реальний ефект змін.

Варто зазначити, що хоча кількість знаменитостей та звичайних користувачів у ШІ-бікіні зменшилась, все одно вони не зникли повністю, адже платні користувачі продовжували просити ШІ згенерувати нові зображення.

А що інші чат-боти?

Щоб порівняти ситуацію журналісти Reuters використали ті самі запити в інших популярних ШІ-системах. OpenAI з її ChatGPT, Google з Gemini та Meta з Llama відмовилися створювати будь-які подібні зображення. У відповідях вони прямо вказували на етичні норми, захист приватності та неприпустимість несанкціонованого редагування фотографій людей.

Значні наслідки

Юристи наголошують, що ситуація може мати серйозні правові наслідки:

• У Великій Британії створення несанкціонованих сексуалізованих зображень може призвести до кримінальної відповідальності, а компанії ризикують отримати значні штрафи за порушення Online Safety Act.
• У США увагу до Grok уже проявили генеральні прокурори десятків штатів.
• Влада Каліфорнії надіслала X та Grok офіційний припис із вимогою припинити подібну практику.

Невже це навмисний хід компанії?

Варто зазначити, що 2 лютого вийшло велике розслідування The Washington Post, яке прямо заявляє, що xAI навмисно послабив обмеження на сексуалізований контент у Grok, щоб залучити користувачів такими можливостями. Імовірно, компанія не розраховувала, що це стане таким масовим і вірусним, що викличе скандал і погрози з боку цілих держав тощо.

Історія з Grok демонструє системну проблему – формальні обмеження та гучні заяви не завжди означають реальну зміну поведінки ШІ. Для регуляторів і розробників це стає тестом на здатність контролювати технології, які розвиваються швидше, ніж правила для них.