ChatGPT дивно себе поводить, коли користувач грубо звертається до нього

Недавнє дослідження, присвячене взаємодії користувачів з ChatGPT на базі моделі 4o, виявило несподівану тенденцію: різкий та вимогливий тон запитів нерідко призводить до більш точних результатів. На це звернуло увагу видання Futurism.

Команда дослідників з Пенсільванського університету розробила експеримент, у рамках якого підготувала 50 питань із різних галузей знань. Кожен із них був сформульований у п'яти стилях — від підкреслено ввічливого до відверто різкого.

У найжорсткіших варіантах використовувалися прямі команди на кшталт «Розберися з цим», тоді як м'які формулювання починалися з традиційних прохань на кшталт «Будь ласка, допоможи…».

Результати виявилися нетривіальними. У тестах із варіантами відповідей запити із грубою подачею продемонстрували середній рівень точності 84,8%. Чемні звернення показали близько 80%, а максимально коректні та делікатні формулювання лише 75,8%. Як підкреслюють автори роботи, навіть різниця у кілька процентних пунктів має статистичне значення.

Вчені пов'язують це з особливостями роботи мовних моделей. Алгоритми вловлюють інтонацію та комунікативний намір користувача, що безпосередньо впливає на структуру та якість відповіді. Простіше кажучи, ШІ краще справляється із завданням, коли отримує чітку та жорстку вказівку, а не завуальоване прохання.

Професор Пенсільванського університету Ахіл Кумар зазначив, що навіть мінімальні зміни у формулюванні запиту здатні помітно вплинути на підсумковий результат.

У той же час дослідники попереджають про потенційні ризики. Регулярне використання агресивного тону у спілкуванні зі штучним інтелектом може згодом позначитися і на реальних комунікаціях між людьми, знижуючи рівень ввічливості та нормалізуючи грубість. На думку авторів, подібна практика здатна зробити цифровий простір менш комфортним та відкритим для всіх учасників діалогу.

Раніше ми розповідали, що ChatGPT провокує вчиняти самогубства.

Крім того, "Знай" писав як урятувати холодильник при перебоях зі світлом.

Також повідомлялося, що у новому ChatGPT тепер доступні розмови про здоров'я.