Разработка ИИ: эксперты попросили приостановить внедрение систем обучения мощнее GPT-4

Некоммерческий Институт будущего жизни опубликовал письмо, в котором эксперты по искусственному интеллекту (ИИ) призвали приостановить на полгода разработку систем обучения, которые были бы мощнее недавно запущенной модели GPT-4 от OpenAI.

По данным Reuters, среди подписавших документ оказались американский миллиардер и изобретатель Илон Маск, генеральный директор Stability AI Эмад Мостак, исследователи DeepMind, а также знаменитые ученые-кибернетики Йошуа Бенжио и Стюарт Рассел.

Все они просят приостановить разработку продвинутого ИИ до тех пор, пока общие протоколы безопасности для таких программ не будут разработаны, внедрены и проверены независимыми экспертами.

"Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми", – отмечают авторы письма.

В документе подробно описаны потенциальные риски для общества и цивилизации со стороны конкурентоспособных систем искусственного интеллекта в виде экономических и политических потрясений, а также содержится призыв к разработчикам сотрудничать по вопросу управляемости ИИ с политиками и регулирующими органами.

Источник: UBR