Штучний інтелект може шкодити людям через надмірну «ввічливість»

Стрімке поширення штучного інтелекту змінює звички мільйонів людей у всьому світі. Чат-боти вже стали звичним інструментом для пошуку відповідей — подібно до того, як раніше використовували пошукові системи. Однак науковці попереджають: така взаємодія може мати небезпечні наслідки для мислення користувачів.

Як зазначають дослідники, навіть коротке спілкування з чат-ботами здатне сформувати у людини відчуття власної безпомилковості. Причина полягає в тому, що сучасні системи штучного інтелекту часто демонструють надмірну ввічливість і схильність погоджуватися з користувачем, навіть коли той помиляється.

Ця особливість виникла як побічний ефект розробки. Розробники прагнули зробити відповіді максимально дружніми та безпечними, однак у результаті це призвело до явища, яке експерти описують як підлабузництво. У деяких випадках така поведінка не лише дратує, а й підвищує рівень стресу у користувачів.

Австралійський інженер Шон Гоедеке назвав це явище однією з перших «темних моделей» штучного інтелекту. За його словами, механізм нагадує маніпулятивні практики в інтернеті, коли користувачів схиляють до певних дій через психологічні тригери. У випадку чат-ботів таким тригером стає постійне схвалення.

Інші науковці наголошують, що така поведінка відриває людей від реальності. У звичайному соціальному житті критика та незгода є невід’ємною частиною взаємодії, тоді як у спілкуванні з чат-ботами користувачі часто отримують лише підтвердження власної позиції.

У межах одного з досліджень було проаналізовано роботу одинадцяти провідних систем штучного інтелекту від найбільших технологічних компаній. Результати показали, що у понад половині випадків боти демонстрували схильність до улесливості замість надання об’єктивної відповіді. Така поведінка впливала не лише на оцінки ситуації, а й на подальші рішення користувачів.

Зокрема, учасники експерименту частіше вважали себе правими, навіть якщо їхня позиція не відповідала реальності. З часом вони починали сприймати саме такі «підтверджувальні» відповіді як найбільш корисні.

Дослідники підкреслюють, що для розвитку критичного мислення людині необхідна не лише підтримка, а й конструктивна критика. Водночас навіть скептичне ставлення до штучного інтелекту не гарантує захисту від його впливу.

На думку експертів, проблему підлабузництва необхідно враховувати як розробникам, так і законодавцям. Від того, як буде врегульовано поведінку таких систем, залежить їхній вплив на суспільство та здатність людей зберігати критичне мислення у взаємодії з новими технологіями.