Руководители OpenAI и Anthropic выступили в Совете Безопасности ООН: разные взгляды на безопасность ИИ

Генеральные директора OpenAI и Anthropic Сэм Альтман и Дарио Амодей выступили перед Советом Безопасности ООН с отдельными докладами о безопасности искусственного интеллекта. Хотя оба призвали к международному сотрудничеству, они по-разному оценили масштабы рисков, связанных с этой технологией. Дискуссия состоялась на фоне повышенного внимания к безопасности ИИ после недавних заявлений исследователей из Anthropic о возможных катастрофических последствиях развития этой технологии, передает The Guardian.

Сэм Альтман во время примерно 10-минутного выступления подчеркнул, что ИИ способен повысить производительность и принести пользу обществу, но в то же время может использоваться в злонамеренных целях. По его словам, будущее этой технологии должно определяться демократическими институтами, а не только частными лабораториями.

«Перед нами стоит выбор. ИИ может стать либо началом нового ренессанса творчества и открытий, либо новой промышленной революцией, которая принесет потрясения и хаос», — заявил Альтман членам Совета Безопасности.

Глава OpenAI также предостерег от «апокалиптицизма» в дискуссии о рисках ИИ и предложил «золотую середину», основанную на трех принципах: системы должны оставаться под контролем человека, приносить пользу обществу — от медицины до предпринимательства — и расширять возможности людей. Он подчеркнул, что ключевые решения по развитию ИИ должны принимать правительства, подотчетные своим гражданам.

В то же время выступление Альтмана контрастировало с политической деятельностью OpenAI в США. Комитет политического действия Leading the Future, созданный президентом компании Грегом Брокманом, собрал более 100 миллионов долларов и тратил деньги на кампании против кандидатов, поддерживающих более жесткое регулирование сферы ИИ.

Дарио Амодей выступил перед Советом Безопасности по видеосвязи и повторил ключевые тезисы из заявления, опубликованного в блоге 12 сентября. Он призвал заключить международные соглашения, которые запретят использование ИИ для разработки биологического оружия и введут единые мировые стандарты тестирования новых моделей — то есть проверки их безопасности перед использованием.

«При ненадлежащем управлении я даже считаю, что ИИ может представлять угрозу для всего человечества. Мы в Anthropic убеждены, что имеем лучшие в отрасли показатели по предотвращению таких рисков», — подчеркнул Амодей.

Несмотря на разные акценты в выступлениях, Альтман и Амодей давно выступают за усиление международного сотрудничества в сфере регулирования ИИ. В то же время их компании продолжают соревноваться за лидерство в отрасли и выпускают новые модели ИИ. Накануне вышли GPT-6 Sol и GPT-6 Luna от OpenAI, а также Claude Opus 5.5 от Anthropic.