Илон Маск и ведущие эксперты ИТ-отрасли призвали прекратить обучение нейросетей

На фоне ошеломительной популярности умного чат-бота ChatGPT и появления множества конкурирующих продуктов, ведущая группа экспертов в сфере искусственного интеллекта (ИИ) и представителей ИТ-отрасли призвала как минимум на полгода приостановить обучение нейросетей, превосходящих GPT-4.

Открытое письмо о рисках таких технологий для общества и цивилизации подписали Илон Маск, сооснователь Apple Стив Возняк и еще более 1100 человек.

В заявлении упоминаются, что подобные ИИ-системы должны разрабатываться только после того, как появится уверенность в том, что они будут иметь положительные последствия, а связанные с ними риски будут управляемы. В частности, необходимо создать специальные протоколы и стандарты безопасности, за применением которых будут следить независимые аудиторы. 

Пока предлагается временная мера: с остановкой работ до того момента, пока не будут разработаны стандарты безопасности.

Отмечается, что с момента своего запуска в конце 2022 года ChatGPT побудил конкурентов ускорить разработку аналогичных мощных языковых моделей, а компании интегрировать генеративные модели ИИ в свои продукты. Microsoft, к примеру, с последним обновлением Windows 11 интегрировала обновленный поисковик Bing со встроенным ChatGPT прямо в панель задач.

Что умеет новая языковая модель от OpenAI GPT-4

Ранее в этом месяце "умный" чат-бот ChatGPT обновили до языковой модели GPT-4. Теперь нейросеть способна понимать не только текст, но и распознавать изображения – и может объяснить даже значение мемов.

Разработчики утверждают, что GPT-4 более "креативная" и может решать сложные задачи с большей точностью благодаря расширенным общим знаниям. Кроме того, обновленный ChatGPT научился на отлично сдавать сложные экзамены по математике и юриспруденции

Исследовательская команда Microsoft оценила мощность GPT-4 близкой к человеческому уровню. Обновленную языковую модель назвали первым шагом к "общему искусственному интеллекту" (ОИИ), то есть способному на выполнение широкого круга задач.

Вас также могут заинтересовать новости:

• Создатель ChatGPT всерьез опасается за человечество из-за своего чат-бота
• ChatGPT научился "гуглить" – хитовой нейросети дали доступ к браузерам пользователей
• ChatGPT оказался лучше врачей: "умный" чат-бот за минуту поставил диагноз и спас собаку