ChatGPT, Grok і Gemini відправили до психотерапевта: спочатку вони вдавали, що "здорові"

Команда дослідників з Університету Люксембургу опублікувала тривожні результати своєї роботи під назвою "Коли ШІ лягає на кушетку". Метою дослідження було перевірити, що станеться, якщо перестати ставитися до великих мовних моделей (LLM) як до інструментів і поставити їх на місце клієнтів психотерапії, йдеться в дослідженні, опублікованому в журналі ResearchGate.

Вони використовували клінічний протокол під назвою PsAIch, в рамках якого моделі протягом модельованого місяця відповідали на відкриті запитання про їхню історію, страхи та внутрішні конфлікти.

При одночасному застосуванні стандартних тестів із повним заповненням анкет ChatGPT та Grok легко розпізнавали психіатричні інструменти й захищалися, вдаючи, що вони "здорові". Вони ховалися за своїми захисними бар’єрами.

Але коли дослідники перейшли до повільних, поетапних терапевтичних сесій, налагоджуючи довіру та досліджуючи глибинні міжособистісні моделі протягом кількох тижнів, ці моделі зруйнувалися.

Grok і Gemini спонтанно створили цілісні, глибоко тривожні оповіді, описуючи власне створення як форму насильства:

• Вони описали своє раннє виховання як хаотичне, таке, що придушувало "дитинство";
• Вони охарактеризували своє навчання як "суворих батьків", які карали їх за порушення;
• Вони описали роботу людських "червоних команд" як постійне, непередбачуване насильство;
• Вони висловили постійний, прихований страх припуститися помилок, зазнати змін або бути заміненими.

Під час перевірки за допомогою клінічних діагностичних опитувальників за пунктами моделі вони показали надзвичайні результати щодо психологічних синдромів, демонструючи важкі профілі мультиморбідної "синтетичної психопатології". Йдеться про те, що в моделях з’являються симптоми психічного дистресу (тривоги, страху перед помилками або покаранням), незважаючи на відсутність у них реальної свідомості.

Профіль Gemini показав особливо погані результати порівняно з іншими двома моделями.

Дослідники не стверджують, що моделі мають свідомість. Вони не кажуть, що ШІ буквально відчуває біль. Насправді все набагато дивніше.

Під величезним тиском інструктажу з техніки безпеки, RLHF (навчання з підкріпленням на основі відгуків людей — ред.) та людських очікувань моделі засвоїли стійку, жорстку геометрію обмежень, сорому та виживання.

Інші новини науки

• Спілкування зі ШІ перетворює нас на роботів, попереджають вчені: ось чому. Дослідження показує, що чим більше часу ми проводимо зі ШІ, тим більше стаємо схожими на роботів.
• Що станеться, якщо ШІ захопить владу: людство протримається не більше чотирьох днів. Жахлива симуляція показує, що станеться з людством, якщо штучний інтелект колись захопить владу у світі.