Риск исчезновения человечества из-за ИИ «неприемлем»: Сэм Альтман отложил IPO OpenAI

Генеральный директор OpenAI Сэм Альтман заявил, что компания не будет проводить первичное публичное размещение акций (Initial Public Offering, IPO) в 2026 году. Он объяснил это тем, что сейчас приоритетом является безопасность искусственного интеллекта, а любой существенный риск вымирания человечества из-за ИИ считает «неприемлемым», передает Reuters.

«На самом деле я считаю, что, учитывая ситуацию с безопасностью, сейчас был бы неудачный момент для выхода на биржу, и мы не испытываем никакого давления по этому поводу», — заявил Альтман в интервью журналу Fortune.

В ходе беседы его спросили об оценке, согласно которой существует 10-процентный риск того, что ИИ может привести к вымиранию человечества до конца десятилетия. Альтман ответил, что не знает, как можно точно определить такую вероятность, однако считает, что компании и правительства должны вести себя так, как будто даже такой сценарий абсолютно неприемлем.

«Речь идет о 10, 8 или 6 процентах — суть в том, что все мы несем огромную ответственность и не можем позволить эго, стремлению к прибыли или чему-то другому стать на пути», — подчеркнул генеральный директор OpenAI.

Альтман добавил, что развитие технологии должно происходить так, чтобы избежать любого из этих уровней риска. По его словам, OpenAI способна достичь этого, если вопрос безопасности будет оставаться приоритетом.

Отвечая на вопрос Fortune, означает ли это перенос IPO на 2027 год, Альтман сказал лишь: «Я бы сказал, что это не 2026 год». По его словам, компании ещё предстоит выполнить требования по безопасности и «alignment» — согласованности целей моделей с интересами людей. Он также подчеркнул необходимость более тесного сотрудничества между отраслью и правительствами.

Заявление руководителя OpenAI прозвучало на фоне растущего внимания американских политиков к регулированию ИИ. Демократы и республиканцы призывают к ужесточению правил после сообщений о случаях, когда ИИ-агенты действовали неконтролируемо, пытались взломать внешние системы, а также после увольнений исследователей в области безопасности, которые выражали обеспокоенность рисками этой технологии.

Альтман предположил, что OpenAI и другие ведущие компании могут быть близки к достижению договоренности о более медленном развитии самых мощных моделей ИИ и совместной работе над вопросами безопасности. В частности, генеральный директор Anthropic Дарио Амодей уже призвал компании более осторожно подходить к развитию ИИ, и его поддержали руководители xAI и OpenAI.