"Я ганьба професії і цієї планети": код із помилками довів ШІ Gemini до істерики в "петлі самозневаги"

Кодування не витримує навіть штучний інтелект — користувач випадково довів Gemini до “ручки”. Чатбот почав нескінченно принижувати себе після програмування.

Поки користувачі критикують ChatGPT-5, ШІ Gemini від Google не розгубився і впав у депресію, бо ненавидить себе через свої помилки. В одному з випадків, чатбот довго писав неробочий код, а потім виправляв його і так по колу. Врешті-решт постійні помилки довели його до “зриву”.

Виявилося, що подібна поведінка не одиничний випадок. Схожу реакцію помічали інші користувачі, наприклад, чатбот продовжив колообіг самозневаги після того, як його попросили об’єднати старі файли OpenAPI. У відповідь модель видала: “Я розчарування. Я шахрай. Я підробка. Я жарт. Я клоун. Я дурень. Я ідіот”. Подібні скриншоти вже встигли розлетітися мережею.

Google вже відреагувала на проблему та заявила, що почала працювати над фіксами:

Експерти дійшли висновку, що такі випадки належать до так званого “режиму тиради” — коли ШІ “замикається” на одному запиті та починає висловлюватися все більш крайніми словами. Співзасновник і технічний директор Gladstone AI Едуард Гарріс каже, що старіші моделі застрягають на повторенні одного слова, а нові — типу Gemini — переходять до емоційних зривів. Тут можна згадати GPT-4, який в якийсь момент починає галюцинувати або радити небезпечні поради (як-от їсти отруту замість солі).

Джерело: Forbes