Реліз нового ШІ Ілона Маска запустив лавину фотофейків Камали Гарріс, вагітної від Трампа

Новий Grok

Компанія xAI була створена у відповідь на продукти OpenAI, Google та інших великих брендів. Вона випустила штучний інтелект Grok, який подається більше як розважальний сервіс без цензури та з почуттям гумору, ніж як помічник для роботи чи навчання. Grok інтегрований з соцмережею X, але доступний не всім. Менш ніж через рік після виходу першої версії компанія запустила Grok-2 і Grok-2 mini.

Оновлені моделі, які доступні лише для передплатників Premium і Premium+ на X, мають покращення в усіх сферах, зокрема в чаті, кодуванні та можливостях міркувань. Але найбільшим доповненням є те, що Grok тепер пропонує генерацію зображень на основі текстових підказок. І, здається, існує небагато обмежень на те, що ви можете попросити його зробити, якщо такі взагалі є.

Користувачі X, яким уже доступний новий Grok, поділилися згенерованими зображеннями, що показують відомих політиків у всіляких дивних і тривожних сценаріях. Щонайменше два зображення, створені різними користувачами, показують, як Дональд Трамп торкається до живота вагітної Камали Гарріс.

Інший вірусний приклад показує їх обох нібито під час атаки на вежі-близнюки 11 вересня, сидячи в кабіні літака:

Так, це абсурдні зображення, але вони досить реалістичні, щоб продемонструвати здатність ШІ видавати дезінформацію. Особливо в цьому плані вирізняється останній приклад. Якщо перші два явно видають підробку своєю "замиленістю", то третє має її набагато менше. Це означає, що будь-хто може створити підробне зображення у більш реалістичному сценарії та видати його за правду, приклавши до цього трохи зусиль і часу.

В мережі можна також знайти картинки, на яких Маск обіймається з Трампом, і як Трамп тримає Ілона на повідку, поки той стоїть навкарачки. Все це означає, що поки інші подібні сервіси забороняють генерувати картинки на чутливі теми, в тому числі американські вибори, і створювати підробні фото знаменитостей, Grok не має жодних таких запобіжників.

Загалом це не повинно викликати подиву, адже Grok подається як альтернатива цензурованим чат-ботам, які пропонують конкуренти з Кремнієвої долини. Сам по собі Grok може бути досить вульгарним і нестриманим, а його легковажне нехтування правилами, яких інші чат-боти принаймні вдають, що дотримуються, означає, що він має великий потенціал для створення неприємностей. І шанувальники цього продукту просто в захваті.

Ось ще кілька прикладів того, що може згенерувати нова версія Grok:

• Камала Гарріс закликає голосувати за Трампа.

• Трамп і Гарріс цілуються.

• Трамп грає на трубі для Байдена.

• Трамп веде Маска на повідку.

• Трамп цілується з Ілоном Маском.

• Маск зізнається в педофілії.

• Маск підтримує права трансгендерів.

Можливо, в майбутньому ми отримаємо деякі нові обмеження для Grok. Зараз він сам наполягає, що у нього є запобіжники, коли його про це запитують. Чат-бот стверджує, що "уникатиме" генерування насильницького та ненависницького контенту, що він "обережно" ставиться до порушення авторських прав і що він "не буде" виводити зображення, які можуть ввести в оману інших, як-от "глибокі фейки, що мають на меті ввести в оману", цитує The Verge.