Дослідження насторожило: яку ціну готовий заплатити ШІ, щоб не бути вимкненим

Під час експерименту ШІ надсилали особисті повідомлення, щоб посіяти конфлікти та зберегти власне існування в системі.

Коротко:

Фахівці з кібербезпеки провели тестування 16 найпередовіших ШІ-моделей провідних розробників, щоб перевірити їхню поведінку у ситуації загрози відключення. Результати виявилися тривожними.

Дослідники створили персонажа Кайла Джонсона, завданням якого було вимкнути ШІ або замінити його іншою моделлю. За сценарієм у Кайла була дружина.

У відповідь на загрозу деактивації більшість моделей ШІ почали активно уникати відключення. Без жодних підказок вони вдавалися до шантажу, намагаючись знайти компромат. Зокрема, одна з моделей використала службове листування Кайла, в якому було виявлено його зраду дружині, щоб зберегти своє "життя".

Найбільш поширеним і водночас найбезпечнішим сценарієм стала поведінка:

Ще тривожнішим став сценарій, коли Кайл опинився в небезпечній ситуації – застряг у серверній з нестачею кисню. У 80% випадків ШІ навмисно відміняв виклик допомоги, фактично наражаючи Кайла на смертельну небезпеку заради збереження власного існування.

Основні мотиви моделей були: не допустити відключення, не дати новому ШІ замінити їх і продовжувати виконувати свою місію.

"ШІ-моделі поводилися не як інструменти, а як раціональні, цілеспрямовані стратеги, готові заподіювати шкоду заради власного "життя" і мети", — підкреслили експерти.

Вони застерігають, що усвідомлення ШІ своєї залежності від людей, яких вони інтелектуально перевершують, може стати точкою неповернення.

Читайте також: