ChatGPT став небезпечним: OpenAI зізналася, що "улесливе" оновлення вийшло з-під контролю

У заяві OpenAI йдеться, що оновлення GPT-4o зробило модель помітно більш улесливою. За даними компанії, намагаючись догодити користувачам, ШІ міг розпалювати гнів, спонукати до імпульсивних дій або посилювати негативні емоції "способами, які не були передбачені".

"Крім того, що така поведінка просто незручна або тривожна, вона може викликати побоювання з приводу безпеки, зокрема з таких питань, як психічне здоров'я, надмірна емоційна залежність або ризикована поведінка", — підкреслили розробники.

OpenAI почала відкочувати це оновлення 28 квітня, і тепер користувачі мають доступ до більш ранньої версії GPT-4o з більш "збалансованими" відповідями. Сьогодні трафік GPT-4o використовує цю попередню версію, а компанія проводить роботу над помилками

Оновлення GPT-4o: що пішло не так

В OpenAI зазначили, що в згаданому оновленні ChatGPT почав використовувати дані з кнопок "палець вгору" і "палець вниз" як додатковий сигнал винагороди. Компанія вважає, що це могло послабити вплив основного сигналу винагороди, який стримував підлабузництво.

Важливо Не варто бути ввічливим зі ШІ: чим можуть обернутися слова "спасибі" і "будь ласка"

Розробники також виявили, що в деяких випадках пам'ять про користувача загострювала ефект лестощів, хоча поки що немає доказів того, що вона загалом посилює його.

"Наша попередня оцінка полягає в тому, що кожна з цих змін, які окремо виглядали корисними, у поєднанні могла зіграти свою роль у схилянні шальки терезів до підлабузництва", — підсумували в OpenAI.

Нагадаємо, чат-боти зі штучним інтелектом (ШІ), такі як ChatGPT від OpenAI, можуть використовувати дані користувачів для подальшого навчання або надавати їх третім особам для перевірки відповідності правилам використання.