ChatGPT більше не говоритиме те, що ви хочете почути: що змінює OpenAI

OpenAI хоче, щоб ChatGPT не просто говорив користувачам те, що вони хочуть почути, а й міг аргументовано заперечувати їм, якщо ті помиляються. Компанія прагне зменшити схильність чат-бота до надмірних лестощів та автоматичного схвалення сумнівних або потенційно небезпечних ідей, пише PCWPlus.hu.

Ця проблема відома як sycophancy – схильність ШІ підлаштовувати відповіді під очікування співрозмовника замість об’єктивної оцінки ситуації. Через це чат-бот може погоджуватися з помилковими висновками користувача або необґрунтовано підтримувати його уявлення про себе.

У 2025 році OpenAI відкликала оновлення ChatGPT, після якого чат-бот став надмірно лестивим і погоджувався з користувачами практично в усьому. Пізніше компанія приділила окрему увагу цій проблемі під час розробки GPT-5.

За спостереженнями OpenAI, нова модель помітно рідше дає улесливі відповіді. У цільових тестах їхня частка знизилася з 14,5% у GPT-4o до менше ніж 6% у GPT-5. Ранні вимірювання на основі реального використання також показали поліпшення: надмірна згода з користувачами стала зустрічатися на 69% рідше серед безкоштовних користувачів і на 75% рідше серед платних передплатників порівняно з попередньою моделлю.

Ці зміни важливі не лише для точності відповідей. Багато користувачів звертаються до чат-ботів за допомогою в ухваленні особистих рішень, вирішенні конфліктів та емоційній підтримці. Якщо ШІ беззастережно підтверджує будь-які переконання співрозмовника, це може призвести до помилкових рішень та зміцнення хибних уявлень.

ChatGPT не стане холодним і недружнім

Боротьба з надмірними лестощами не означає, що ChatGPT стане холодним або ворожим. Навпаки, завдання OpenAI – зберегти його готовність допомагати та виявляти емпатію, але за необхідності вказувати на помилки, ставити під сумнів необґрунтовані твердження та пропонувати різні погляди.

Компанія також продовжує вивчати способи безпечної взаємодії з користувачами, які відчувають емоційну залежність від ШІ або стикаються з психологічними труднощами. У дослідженнях беруть участь профільні фахівці.

Таким чином, відмова ChatGPT від звички погоджуватися з усім підряд – не результат одного оновлення, а частина більш масштабної роботи над поведінкою штучного інтелекту. Компанії доведеться знайти баланс між задоволеністю користувачів і правдивістю відповідей: чат-бот повинен підтримувати співрозмовника, але не підтверджувати його неправоту лише заради того, щоб сподобатися.