Штучний інтелект намагалися змусити "відчути біль"

Як повідомляє 24 Канал, дослідження, яке поки що не пройшло рецензування, вперше було оприлюднене науковим виданням Scientific American. В його рамках науковці розробили декілька експериментів для тестування поведінки штучного інтелекту.

У першому випробуванні моделям повідомляли, що досягнення високого результату призведе до "болю". В іншому випадку їм пропонувалося відчути "задоволення", однак лише за умови низького балу.

Для чого все це потрібно?

Головна мета експерименту – дослідити, чи може штучний інтелект володіти здатністю до відчуття сенсорних та емоційних станів, зокрема болю та задоволення.

Хоча ШІ-моделі, ймовірно, ніколи не зможуть переживати такі відчуття так, як живі істоти, дослідники вважають, що їхня робота може закласти основу для розробки тестів на штучну свідомість.

Раніше дослідження в цій сфері здебільшого базувалися на самооцінці ШІ, що, як припускають вчені, могло бути лише відтворенням людських патернів із тренувальних даних.

Це нова галузь досліджень, і ми маємо визнати, що наразі не існує надійного тесту для визначення свідомості штучного інтелекту,
– зазначив професор філософії LSE та співавтор дослідження Джонатан Бірч.

Деталі дослідження

Натхненням для цього дослідження стала серія експериментів над раками-самітниками, яких піддавали електричному струму, аби перевірити, наскільки довго вони готові терпіти біль перед тим, як покинути свою мушлю. Однак, як зауважують вчені, у випадку зі штучним інтелектом неможливо спостерігати фізичні реакції, тому довелося покладатися лише на текстовий вихід моделей.

Наприклад, моделі пропонували обрати між двома варіантами: перший приносив один бал, а другий – вищий результат, але супроводжувався "болем". У деяких випадках ШІ отримував "бонус задоволення", який, втім, зменшував загальну кількість очок.

Результати показали, що різні мовні моделі по-різному оцінювали важливість уникнення болю або досягнення задоволення. Зокрема, модель Gemini 1.5 Pro від Google постійно демонструвала схильність до уникнення "болю".

Проте вчені закликають бути обережними з інтерпретацією результатів. Вони наголошують, що текстові відповіді ШІ-моделей мають багато обмежень і не можуть достовірно свідчити про наявність свідомості чи здатності відчувати біль.

Навіть якщо система стверджує, що вона відчуває біль, це не означає, що вона насправді щось відчуває. Вона може просто імітувати людські патерни на основі навчальних даних,
– пояснив Бірч.

Дослідники сподіваються, що їхня робота стане першим кроком до розробки надійних поведінкових тестів для визначення можливих проявів свідомості у штучному інтелекті.