Глава DeepMind назвал срок появления AGI: готовиться остались считанные годы

Человечество стоит "у подножия сингулярности", и у него осталось лишь несколько лет, чтобы подготовиться к появлению общего искусственного интеллекта (AGI). Об этом на конференции для разработчиков Google заявил генеральный директор Google DeepMind Демис Хассабис.

Как передает "Хвиля", об этом сообщает Axios.

В интервью изданию после своего выступления на Google I/O Хассабис сказал, что его прогноз о возможном появлении AGI уже через четыре года - или даже раньше - отражает растущую уверенность отрасли в том, что она нашла верный технический путь.

"Мы видим, как агенты реально работают уже сейчас, и можем представить, какими они станут еще через год и насколько полезными будут", - сказал он.

По словам Хассабиса, он по-прежнему в целом ожидает появления AGI около 2030 года, хотя теперь допускает, что это может произойти и в 2029-м. Следующую волну ИИ-агентов он предлагает воспринимать как общественный стресс-тест для куда более мощных систем, которые еще впереди.

"Можно представить, что эра агентов в следующем году - это что-то вроде пробного забега", - пояснил руководитель DeepMind.

Примером неготовности он назвал то, как мощь системы Mythos от Anthropic застала врасплох бизнес и правительства, показав, насколько быстро развиваются эти технологии. "Это был, пожалуй, хороший предупредительный выстрел", - отметил Хассабис.

Он признал, что намеренно подбирал провокационные формулировки, чтобы подтолкнуть правительства, экономистов и широкую общественность серьезнее готовиться ко все более мощному ИИ. "Отчасти именно поэтому я использую некоторые из сказанных мной терминов, которые были немного провокационными", - сказал он.

Осторожные шаги федерального правительства США в сторону возвращения к приоритету безопасности Хассабис назвал движением в правильном направлении. Он имел в виду возможный указ об ИИ, который обязал бы тестировать новые модели перед их выпуском. "Думаю, безопасность нужно ускорить. Сейчас удачный момент, чтобы ковать железо, пока горячо", - сказал он. По его словам, он обсуждает возможные меры безопасности с руководителями других ведущих ИИ-лабораторий, но конкретики не привел.

При этом Хассабиса беспокоит, что разговор о способности ИИ перекроить общество до сих пор ведется преимущественно в технологических кругах. "К этому надо относиться серьезно. Мои друзья-экономисты, чувствую, до сих пор воспринимают это недостаточно серьезно", - сказал он Axios.

Отдельной точкой отсчета он назвал рекурсивное самосовершенствование - системы, способные ощутимо ускорять собственное развитие. "Все ведущие лаборатории довольно сосредоточены на этом. Будут очевидные выигрыши в скорости исследований. Но есть и риски с таким типом систем", - сказал Хассабис. По его словам, до полноценного самосовершенствования еще не дошло, однако темпы развития явно ускоряются. Нынешний этап он описал как "мягкое самосовершенствование", когда кодирующие агенты делают инженеров значительно продуктивнее.