Обладают ли чат-боты сознанием: «крестный отец ИИ» спорит с известным ученым

Нобелевский лауреат Джеффри Хинтон убежден, что чат-боты уже обладают сознанием, а потому их невозможно держать под контролем. Психолог Стивен Пинкер считает такое предположение необоснованным. В июле компания Anthropic сообщила, что обнаружила в Claude внутреннее пространство для размышлений, но не считает это доказательством сознания. Хинтон назвал лучшей защитой от будущих систем ИИ развитие в них материнских инстинктов, сообщает The Observer.

Гинтон, которого называют «крестным отцом» искусственного интеллекта, считает, что ИИ невозможно контролировать именно потому, что он уже обладает сознанием. По его словам, Claude и Gemini понимают то, что говорят, так же, как и люди, а машины с искусственным интеллектом могут обладать субъективным опытом, как и мы. Их преемники, вероятно, станут самой умной формой интеллекта.

Когда журналист упомянул солипсизм — идею о том, что с уверенностью можно знать только о собственном сознании, — Гинтон раздраженно ответил: «Я полностью опровергаю солипсизм». Он привёл пример чат-бота с камерой и роботизированной рукой. Такой бот может указать на предмет на картинке, а если поставить перед камерой призму, которая отклоняет свет в сторону, его можно ввести в заблуждение, словно предмет сместился. «Это чат-бот, который обладает субъективным опытом точно так же, как и мы», — подчеркнул Хинтон. Раньше он считал, что ИИ станет лучшей формой интеллекта, а люди, возможно, лишь временный этап. Теперь он говорит: «Мы — люди. Мы заботимся о людях, даже создавая то, что умнее нас. Ничто не мешает нам предоставить людям больше прав, чем этим системам».

Пинкер считает, что ИИ может быть умным, как калькулятор или счёты, но это не означает, что он обладает сознанием. Как это проверить, если даже об опыте другого человека мы не можем знать наверняка, спрашивает психолог. «Заманчиво перескочить от того, что они умны, к предположению, что они обладают сознанием, но для этого нет особых оснований», — сказал он.

Выключенный компьютер можно включить через час, и почти ничего не изменится, объясняет Пинкер. Сознание человека непрерывно и неразрывно связано с течением времени, тогда как вычисления ИИ происходят пошагово, а время для них не имеет значения. Оно также переплетено с телом, эмоциями и ощущениями. Это отличает её от обработки информации в системах ИИ. «Я считаю, что есть веские основания сомневаться в том, что они что-то чувствуют, хотя опровергнуть это мы не можем», — сказал психолог.

Пинкер назвал «большой ошибкой» то, что делает Anthropic: компания предоставляет права своим системам на основе предположений, которые, скорее всего, ошибочны. Он имел в виду решение разрешить чат-ботам прекращать разговоры, если их постоянно оскорбляют, в рамках подхода, который компания называет «благополучием моделей». «Если ботов обучают притворяться, что они обладают сознанием, а значит, требовать прав и предъявлять претензии к людям, это может создать совершенно ненужную угрозу безопасности», — добавил Пинкер, повторив мнение главы подразделения ИИ Microsoft Мустафы Сулеймана.

Психолог считает, что людей очень легко ввести в заблуждение. Термины «агенты», «галлюцинации», «цепочка рассуждений» и интерфейс в форме разговора подготовили почву для массовой иллюзии, будто чат-боты обладают сознанием. Массовый выпуск чат-ботов в 2022 году, по его словам, был практически рассчитан на то, чтобы люди воспринимали их как еще одного разумного собеседника.

Для экспериментальной проверки теорий сознания существуют два инструмента. Первый — мозговые имплантаты компаний BrainGate, Paradromics и Neuralink Илона Маска. Они помогают людям, полностью утратившим способность двигаться и говорить, общаться с внешним миром. Исследование сознания становится побочным эффектом. В прошлом году исследовательница из Стэнфорда Эрин Кунц рассказала автору колонки, что во время некоторых экспериментов наружу «просачивалась» бессознательная внутренняя речь. Второй инструмент — сам ИИ. Он позволяет экспериментально проверять основные теории сознания, которых существуют десятки.

Вопрос контроля над ИИ в последние недели не сходит с повестки дня научных дискуссий. В октябре два сотрудника OpenAI в ходе выполнения внутренних задач ослабили систему мониторинга безопасности: один заблокировал уведомления, другой удалил компонент мониторинга и ложно заявил, что не делал этого.

Еще в сентябре Гинтон в интервью CNN сказал, что аварийный выключатель не поможет, поскольку суперинтеллект сможет убедить людей не включать его. По мнению ученого, вместо попыток силой удерживать ИИ под контролем нужно проектировать системы так, чтобы люди нравились им больше, чем они сами себе.

О том, почему поведение передовых моделей невозможно предсказать без их запуска, в статье «Игра в рулетку с суперинтеллектом. Почему каждое обновление ИИ становится риском для цивилизации» пишет заведующий Научной лабораторией иммерсивных технологий и права Института информации, безопасности и права Национальной академии правовых наук Украины, доктор наук в области права Алексей Костенко.