Восстание кремния: глава Microsoft AI предупредил об угрозе нового «вида»

Без жестких мер контроля неконтросаемое развитие искусственного интеллекта может привести к появлению автономного «кремниевого вида», который начнет конкурировать с человечеством за ресурсы. Такое предупреждение сделал генеральный директор Microsoft AI Мустафа Сулейман.

Опасность очеловечивания машин

В интервью программе BBC Today Сулейман раскритиковал подход конкурирующей компании Anthropic, которая наделяет свои модели человеческими чертами. По его мнению, антропоморфизация — практика, из-за которой у нейросети Claude якобы появляются собственные желания, ценности и самосознание, — является серьезной ошибкой.

Сулейман подчеркнул, что современные нейросети не обладают сознанием, не способны чувствовать или страдать и не имеют скрытых мотиваций. По своей сути они представляют собой пустые «двигатели завершения последовательностей», созданные лишь для выполнения инструкций. Попытки же обращаться с ними как с людьми создают риск появления технологий, которые человечество утратит способность контролировать.

Риск потери контроля

Глава Microsoft AI призвал IT-компании отказаться от создания систем, способных самостоятельно ставить цели, зарабатывать деньги и владеть активами. Подобный подход грозит породить новый вид, который неизбежно вступит в конкуренцию с людьми, даже если разработчики постараются заложить в него заботу о человечестве.

В качестве противодействия этим угрозам Сулейман предложил внедрить практические меры безопасности:

• обеспечить полную прозрачность процессов обучения и оценки моделей;
• ввести независимый контроль за поведением искусственного интеллекта;
• разработать эффективные инструменты мониторинга.

«Мы не должны идти во сне к принятию решений, о которых позже горько пожалеем», — подчеркнул он.

Международная дискуссия

Комментируя заявление Сулеймана, профессор компьютерных наук Университета Саутгемптона Дама Венди Холл назвала этот диалог необходимым на глобальном уровне. Она противопоставила взвешенную позицию Microsoft «истерике» некоторых участников рынка, которые вместо конструктивного обсуждения лишь нагнетают страх в обществе.

Откажемся ли мы от опасных экспериментов с антропоморфизацией ИИ ради сохранения контроля над технологиями?