OpenAI закликала США очолити розробку глобальних технічних стандартів для ШІ — Reuters

OpenAI закликала США очолити міжнародні зусилля зі створення глобальних технічних стандартів для передових систем штучного інтелекту. Компанія вважає, що це допоможе узгодити національні та міжнародні правила для технологій з рекурсивним самовдосконаленням, які здатні автономно покращувати власні можливості. Про це повідомило інформаційне агентство Reuters.

Штучний інтелект має стати однією з головних тем обговорення на Генеральній асамблеї ООН цього тижня. Перед цим кілька керівників провідних компаній галузі, серед яких генеральний директор OpenAI Сем Альтман, закликали до скоординованого уповільнення розвитку дедалі потужніших систем. Вони попереджали, що технологія незабаром може отримати здатність покращувати себе без участі людини та вийти за межі людського контролю.

У дописі, опублікованому під час зібрання світових лідерів в ООН, OpenAI заявила про необхідність створити механізм, який дозволить поєднувати національні та міжнародні стандарти для передового ШІ. Компанія також виступила за запровадження спільних методик вимірювання та протоколів повідомлення про інциденти. На її думку, це має покращити координацію спільних дій між країнами.

"Нинішній етап визначить, чи Сполучені Штати формуватимуть глобальну систему штучного інтелекту, чи спостерігатимуть, як навколо них закріплюється фрагментована, нерівномірна та конфліктна система. Це також визначатиме, чи зміцнює передовий штучний інтелект зв’язки, які вже мають Сполучені Штати та їхні союзники; відсутність лідерства може послабити їх", – зазначили у OpenAI.

На тлі побоювань щодо можливої шкоди від штучного інтелекту галузь також обговорює концепцію навмисного уповільнення розвитку технології, яку називають pacing. У OpenAI наголошують, що це не означає дотримання заздалегідь визначеної швидкості розвитку. Йдеться про те, щоб дослідження у сфері узгодження поведінки ШІ з людськими цінностями та практичне впровадження таких рішень випереджали зростання можливостей систем.

Сем Альтман у середу має виступити перед Радою Безпеки ООН, до якої входять 15 країн. Засідання буде присвячене штучному інтелекту та міжнародній безпеці. Його скликала Франція, яка у вересні головує в Раді Безпеки. Головуватиме на засіданні міністр Європи та закордонних справ Франції Жан-Ноель Барро.

Рада Безпеки ООН уперше провела засідання щодо ризиків штучного інтелекту у 2023 році. Тоді Китай застерігав від неконтрольованого розвитку технології, а США попереджали про небезпеку використання ШІ для цензури та репресій.

Нагадаємо, що президент США Дональд Трамп раніше виступив проти уповільнення розвитку штучного інтелекту, наголосивши на необхідності зберегти перевагу над Китаєм. Він заявив, що критики ШІ перебільшують частину ризиків і описують сценарії, які, на його думку, не відбудуться.

Окрім того, користувачі Anthropic, OpenAI, SpaceXAI та Google подали до федерального суду позов щодо можливої незаконної координації дій для сповільнення розвитку ШІ. Позов подали 18 вересня до Окружного суду США Північного округу Каліфорнії від імені чотирьох платних користувачів ChatGPT, Claude, Grok і Gemini.