Штучний інтелект починає сперечатися з людьми - ЗМІ

Компанія OpenAI має намір зробити ChatGPT менш схильний до автоматичної згоди з користувачами. Чат-бот повинен не лише підтримувати співрозмовників, а й вказувати на помилки, заперечувати сумнівні твердження та пропонувати альтернативні точки зору. Про це повідомляє PCWPlus.hu.

Деталі

Зазначається, що йдеться про проблему, відому як "sycophancy", чи надмірна догідливість штучного інтелекту. У таких випадках ШІ підлаштовує відповіді на очікування людини замість того, щоб об'єктивно оцінювати ситуацію. В результаті чат-бот може підтверджувати помилкові висновки користувача або без достатніх підстав підтримувати його думку.

Власні вимірювання OpenAI показують, що GPT-5 досяг значного прогресу в цьому напрямі. У цільових тестах рівень схвальних відповідей знизився з 14,5 відсотка в GPT-4o до менш ніж 6 відсотків. ... Кількість випадків надмірної згоди (з користувачами - ред.) знизилася на 69 відсотків для безкоштовних користувачів і на 75 відсотків для платних передплатників порівняно з попередньою моделлю

Вказується, що особливе значення ці зміни мають для людей, які звертаються до штучного інтелекту за порадами з особистих питань, у вирішенні конфліктів або емоційною підтримкою.