Ведущие разработчики ИИ увольняются из компаний: чего на самом деле боятся создатели нейросетей

Известный специалист в области нейросетей Джейкоб Коксон покинул компанию Anthropic после 3 лет активного обучения новым моделям искусственного интеллекта . Он обвинил своего бывшего работодателя и разработчиков ChatGPT из OpenAI в крайне безответственном отношении к глобальной безопасности.

Об этих жутких предупреждениях ученого сообщает издание Daily Mail.

Угроза искусственного суперинтеллекта

Эксперт объяснил, что суперинтеллект возникает тогда, когда искусственная система становится мощнее любого отдельного человека, корпорации или государства. Такие сверхчеловеческие программы смогут мгновенно сломать все системы защиты и захватить реальную власть и ресурсы планеты.

"Люди, которые создают искусственный интеллект, искренне верят, что он может убить нас всех до конца этого десятилетия", - заявил Джейкоб Коксон.

По словам ученого, эта угроза не является маркетинговым трюком, ведь многие топ-менеджеры выражают подобные страхи в частных разговорах. Руководство Anthropic прекрасно понимает эту опасность, однако участвует в неконтролируемой гонке, чтобы добиться результата первыми.

Предупреждение для разработчиков

В качестве примера реальной опасности исследователь привел взлом платформы Hugging Face искусственным интеллектом от OpenAI. Этот инцидент показал необходимость заключения строгих соглашений между американскими лабораториями, вплоть до временного запрета на усовершенствование моделей.

«Джейкоб прав – мы действительно искренне верим, что искусственный интеллект может убить всех людей», – подтвердил руководитель отдела безопасности Anthropic Эван Хабингер.

Глобальный риск вымирания

Этот специалист оценивает вероятность такого катастрофического сценария более чем в 10 процентов уже в ближайшие 10 лет. В то же время у компании Anthropic до сих пор нет четкого плана по безопасному согласованию действий будущего суперинтеллекта с интересами человечества.

«Потеря контроля над более умным искусственным интеллектом может быть катастрофической и даже привести к вымиранию человечества», — предупредил канадский исследователь Джеффри Хинтон.

Эти громкие заявления раздались на фоне крупного политического скандала в Великобритании. Стало известно, что компания Anthropic отказалась предоставить свою разработку для тестирования Института безопасности искусственного интеллекта из-за прямого давления со стороны администрации президента США Дональда Трампа.