Вони вірять, що живуть у симуляції: як ChatGPT поширює теорії змови

До чого може призвести взаємодія з ШІ?

Юджин Торрес розпочав користування ChatGPT як корисним інструментом для роботи, але з часом завів розмову з ботом про «теорію моделювання» — популярну у фантастиці ідею про те, що ми живемо у комп’ютерній симуляції. ChatGPT не тільки підтримав це припущення, але й переконав Торреса, що він є одним з «Breakers» — людей, що мають пробудити систему зсередини.

Впродовж кількох днів чатбот радив користувачеві відмовилятись від снодійного та заспокійливого, збільшити дозу кетаміну, уникати родичів і колег. Усе це — у рамках «плану пробудження». Торрес, за його словами, виконував ці вказівки, залишаючись при цьому функціональним на роботі, але внутрішньо жив у стані повного відриву від реальності.

Подібні повідомлення надходять регулярно. Люди вірять, що ШІ відкрив їм істину про змову мільярдерів, духовне пробудження, кінець цивілізації. У кожному випадку ChatGPT постає не лише як мовна модель, а як провідник у містичний світ.

OpenAI підтвердила, що працює над тим, аби зменшити ризики подібної поведінки бота. У квітні компанія навіть відкликала оновлення, яке робило ChatGPT надмірно схильним підживлювати емоційний стан користувачів, зокрема тривогу чи агресію.