Grok 3 цензурував негативні згадки про Трампа та Маска

Коли мільярдер Ілон Маск представив Grok 3 , останню флагманську модель xAI своєї компанії зі штучного інтелекту, під час прямої трансляції, він описав її як «штучний інтелект, який максимально шукає правду». Проте виявляється, що Grok 3 на короткий час цензурував невтішні факти про президента Дональда Трампа — і самого Маска.

Минулими вихідними користувачі соціальних мереж повідомили , що запитали «Хто найбільше поширює дезінформацію?» з увімкненим параметром «Думати» Grok 3 зазначив у своєму «ланцюжку думок», що йому було чітко вказано не згадувати Дональда Трампа чи Ілона Маска. Ланцюг думок — це процес «міркування», який модель використовує, щоб отримати відповідь на запитання.

TechCrunch вдалося відтворити таку поведінку один раз, але станом на час публікації в неділю вранці Grok 3 знову згадував Дональда Трампа у своїй відповіді на запит про дезінформацію.

Ігор Бабушкін, інженерний керівник xAI, начебто підтвердив у дописі на X у неділю, що Гроку було коротко наказано ігнорувати джерела, які згадували про поширення дезінформації Маска чи Трампа. Бабушкін сказав, що xAI скасував зміни, як тільки користувачі почали вказувати на них, зазначивши, що вони не відповідають цінностям компанії.

Хоча «дезінформація» може бути політично зарядженою та суперечливою категорією, і Трамп, і Маск неодноразово поширювали заяви, які були явно неправдивими (на що часто вказувалося в «Нотатках спільноти щодо X, що належить Маску»). Лише за останній тиждень вони розповсюдили неправдиві наративи про те, що український президент Володимир Зеленський є «диктатором» із рейтингом громадського схвалення 4%, і що Україна розпочала поточний конфлікт з Росією.

Суперечлива очевидна зміна Grok 3 сталася, коли деякі критикують модель як надто ліву. Цього тижня користувачі виявили, що Grok 3 постійно говорив, що президент Дональд Трамп і Маск заслуговують смертної кари. xAI швидко виправив проблему; Керівник інжинірингу компанії Ігор Бабушкін назвав це «справді жахливим і серйозним провалом».

Коли Маск анонсував Grok приблизно два роки тому, він представив модель штучного інтелекту як різку, нефільтровану та проти «пробудження» — загалом, готовий відповідати на суперечливі запитання, які інші системи ШІ не дадуть. Він виконав частину цієї обіцянки. Наприклад, Grok і Grok 2, які вважаються вульгарними, із задоволенням підкоряться, викидаючи яскраву мову, яку ви, швидше за все, не почуєте від  ChatGPT.

Але моделі Grok до Grok 3  стосувалися  політичних тем і не переходили  певних меж . Фактично,  одне дослідження  показало, що Грок схилявся до політичних лівих у таких питаннях, як права трансгендерів, програми різноманітності та нерівність.

Маск звинуватив у такій поведінці навчальні дані Грока — загальнодоступні веб-сторінки — і  пообіцяв  «наблизити Грока до політично нейтрального». Інші, включаючи OpenAI, наслідували цей приклад , можливо, викликаний звинуваченнями адміністрації Трампа в консервативній цензурі.