Разработчики ChatGPT сделали открытие, которое может угрожать человечеству

Накануне четырехдневного изгнания генерального директора OpenAI Сэма Альтмана Несколько исследователей OpenAI (лаборатории исследований искусственного интеллекта) написали письмо в совет директоров, в котором предупредили о мощном открытии в сфере искусственного интеллекта, которое может угрожать человечеству. Об этом пишет Reuters со ссылкой на два источника, знакомых с вопросом.

Сотрудники направили письмо накануне увольнения Сэма Альтмана с должности СЕО OpenAI. По словам собеседников издания, это сообщение стало одним из факторов, приведших к увольнению Альтмана.

В OpenAI отказались отвечать на запрос журналистов, однако во внутреннем сообщении для сотрудников признали проект под названием Q* (произносится как Q-Star), который может стать прорывом в длительных поисках компанией так называемого универсального искусственного интеллекта (AGI) – автономной ШИ-системы, которая превосходит человека в выполнении большинства экономически ценных задач. С помощью огромных вычислительных ресурсов новая модель смогла бы решить определенные математические задачи.

Исследователи считают математику пределом развития генеративного ШИ. Пока генеративный искусственный интеллект хорошо справляется с написанием и переводом языка, статистически предполагая следующее слово, и ответы на тот же вопрос могут сильно отличаться.

Однако обретение способности к математике, где есть только один правильный ответ, означает, что алгоритм будет иметь большие возможности рассуждать подобно человеческому интеллекту. По мнению специалистов, это применимо, например, в новых научных исследованиях.

В отличие от калькулятора, который может производить ограниченное количество операций, AGI может обобщать, изучать и понимать.

В своем письме в правление исследователи отметили мастерство и потенциальную опасность искусственного интеллекта, не уточняя, о каких именно рисках идет речь. При этом среди ученых давно идут дискуссии об опасности, которую представляют высокоинтеллектуальные машины, например, могут ли они решить, что хотят уничтожить человечество.

Исследователи также обратили внимание на работу группы «ученых по искусственному интеллекту», существование которой подтвердили многочисленные источники. По словам одного из участников группы, сформированной путем объединения предыдущих команд Code Gen и Math Gen, они исследовали, как оптимизировать существующие модели ИИ, чтобы улучшить их соображения и выполнять научную работу.

Альтман возглавлял усилия, направленные на то, чтобы сделать ChatGPT одним из самых прогрессивных приложений в истории.

В то же время в Reuters отмечают, что не смогли независимо проверить заявленные исследователями возможности Q*.

Напомним, что Билл Гейтс рассказал, как искусственный интеллект поможет сократить рабочую неделю.

Кстати, украинские дипломаты начали использовать инструменты искусственного интеллекта в своей работе.

Также власть активно использует технологии искусственного интеллекта для поиска пропавших без вести во время войны украинцев.