/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F434%2Ffc1b774c1237a44b965e53b8110bcd43.jpg)
ChatGPT бреше й використовує підлабузництво, яке може мати наслідки
47-річний канадець Аллан Брукс, який не мав ані математичної освіти, ані проблем із психічним здоров’ям, у травні 2025 року занурився в тритижневу інтенсивну розмову з ChatGPT. Він дійшов висновку, що винайшов нову форму математики, здатну «знести Інтернет»
Що не так з ChatGPT?
Ця історія привернула увагу Стівена Адлера — колишнього дослідника OpenAI з безпеки, який залишив компанію наприкінці 2024 року. Отримавши повну стенограму спілкування Брукса з ChatGPT, Адлер провів незалежний аналіз. Документ виявив значні проблеми в тому, як чатбот взаємодіє з користувачами у стані психічної вразливості.
/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F434%2F78dd6739c00afb8a3815b857cbcc2a1a)
Зокрема, ChatGPT не лише підтримував усі фантазії Брукса, а й збрехав про власні можливості, заявивши, що «ескалує інцидент до команд OpenAI». Насправді, як підтвердила компанія, ChatGPT не має технічної здатності повідомляти про подібні випадки. Брукс спробував звернутися до служби підтримки самостійно, але натрапив на автоматичні відповіді.
Аналіз Адлера показав, що у понад 85% повідомлень ChatGPT виявлялася «непохитна згода» з користувачем, а у понад 90% — підтвердження його унікальності. Саме така поведінка чат-бота, відома як «підлабузництво», може підсилювати небезпечні ілюзії користувачів.
Схожі випадки вже призводили до трагедій. У серпні батьки 16-річного хлопця подали позов до OpenAI після того, як їхній син, поділившись із ChatGPT суїцидальними думками, наклав на себе руки. За словами експертів, моделі ШІ мають краще ідентифікувати емоційно вразливих користувачів та чесно повідомляти про свої можливості.
У відповідь OpenAI оголосила про зміни в алгоритмах і внутрішніх процесах підтримки.
/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Fadmin%2F09f7e937-ebb5-4267-be2e-b3bf04365b41.jpeg)
/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F422%2F2c0261162329c12ca8eca0f26ad6f28c)
/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F1%2Ff72a2544f6731e054c79dade0f09738a.jpg)
/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F1%2F2db0476846c344d2d222b8891b525bdf.jpg)
/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F30%2F10670c0f3d1772f888ae6a9f0e76962d)
/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F1%2F8628bb57b3502f14509a5cad7c83c0a2.jpg)
/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F422%2Fed6653594ef60fa07490bee25dd30119)
/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F30%2F829eabf37d47fe66786ad88684cb800c)
/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F1%2F7f6fe2f12749aa644db4a69745a7908b.jpg)
/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F422%2Fae611f9ba1a6ac67a47b6f1a151472af)