Способен ли искусственный интеллект испытывать боль: ученые провели ряд экспериментов

Ученые Google DeepMind и LSE провели эксперименты с большими языковыми моделями, чтобы оценить их способность к "ощущению боли" и определить наличие сознания в ИИ.

Команда ученых подвергла девять больших языковых моделей (LLM) необычному испытанию, заставляя их оценивать, готовы ли они выдержать "боль" ради более высокого результата. Эксперимент проводился специалистами Google DeepMind и Лондонской школы экономики и политических наук (LSE) и имел целью найти способ определения наличия сознания в искусственном интеллекте.

Исследование, которое пока еще не прошло рецензирование, впервые было обнародовано научным изданием Scientific American. В его рамках ученые разработали несколько экспериментов для тестирования поведения искусственного интеллекта.

В первом испытании моделям сообщалось, что достижение высокого результата приведет к "боли". В противном случае им предлагалось почувствовать "удовольствие", однако лишь при низком балле.

Главная цель эксперимента – исследовать, может ли искусственный интеллект обладать способностью к ощущению сенсорных и эмоциональных состояний, в частности, боли и удовольствия.

Хотя ШИ-модели, вероятно, никогда не смогут испытывать такие ощущения, как живые существа, исследователи считают, что их работа может заложить основу для разработки тестов на искусственное сознание.

Ранее исследования в этой сфере в основном базировались на самооценке ИИ, что, как предполагают ученые, могло быть только воспроизведением человеческих паттернов из тренировочных данных.

"Это новая область исследований, и мы должны признать, что пока нет надежного теста для определения сознания искусственного интеллекта", — отметил профессор философии LSE и соавтор исследования Джонатан Бирч.

Вдохновением для этого исследования стала серия экспериментов над раками-отшельниками, подвергаемыми электрическому току, чтобы проверить, насколько долго они готовы терпеть боль перед тем, как покинуть свою раковину. Однако, как отмечают ученые, в случае искусственного интеллекта невозможно наблюдать физические реакции, поэтому пришлось полагаться только на текстовый выход моделей.

Например, модели предлагали выбрать между двумя вариантами: первый приносил один балл, а второй – более высокий результат, но сопровождался "болем". В некоторых случаях ИИ получал "бонус удовольствия", который, впрочем, уменьшал общее количество очков.

Результаты показали, что разные языковые модели по-разному оценивали важность избегания боли или достижения удовольствия. В частности, модель Gemini 1.5 Pro от Google постоянно демонстрировала склонность к избеганию "боли".

Однако ученые призывают осторожничать с интерпретацией результатов. Они отмечают, что текстовые ответы ШИ-моделей имеют много ограничений и не могут достоверно свидетельствовать о наличии сознания или способности испытывать боль.

"Даже если система утверждает, что она испытывает боль, это не значит, что она действительно что-то испытывает. Она может просто имитировать человеческие паттерны на основе учебных данных", – пояснил Бирч.

Исследователи надеются, что их работа станет первым шагом в разработке надежных поведенческих тестов для определения возможных проявлений сознания в искусственном интеллекте.

Напомним, ИИ впервые нарисовал автопортрет, показав, как, по его мнению, он выглядит. Тест был проведен страховой компанией Hiscox, изучающей влияние искусства, созданного искусственным интеллектом, на людей-художников.