Anthropic, OpenAI, Meta та Microsoft закликали політиків посилити нагляд за ШІ, який самовдосконалюється

Керівники компаній у сфері штучного інтелекту, серед яких Anthropic, OpenAI, Meta та Microsoft, закликали політиків перевірити, на скільки системи ШІ здатні самостійно вдосконалюватися, та вжити заходів для захисту цієї технології. Про це пише Bloomberg.

У новій статті понад 20 керівників і дослідників у галузі ШІ висловили стурбованість тим, що практика залучення штучного інтелекту до розробки нових моделей колись може призвести до стрімкого прискорення розвитку технологій. Це явище вони назвали «вибухом інтелекту».

Як ідеться в статті, це збільшить ризики того, що можливості ШІ перевищать здатність суспільства керувати технологією та адаптуватися до неї. Дослідники також попередили, що автоматизація досліджень і розробок у сфері штучного інтелекту може послабити людський нагляд.

Дослідники закликали політиків отримати більше інформації про те, як у провідних лабораторіях використовують ШІ для автоматизації досліджень, а також розробити механізми для керування та стримування «вибуху інтелекту». 

Автори статті запропонували посилити заходи безпеки та нагляд за дата‑центрами, які займаються автоматизованими дослідженнями та розробками у сфері ШІ. Вони також закликали створити плани екстреного реагування на різні сценарії розвитку штучного інтелекту.

Серед авторів статті — співзасновник Anthropic Джек Кларк, головний науковий співробітник OpenAI Якуб Пахоцький, піонери штучного інтелекту Джеффрі Гінтон і Йошуа Бенджіо та інші.

Провідні розробники ШІ посилили попередження про можливі катастрофічні наслідки майбутніх передових систем через кілька недавніх інцидентів, пов'язаних із ШІ-агентами, а також відчуття в окремих компаніях, що технологія дедалі краще самовдосконалюється.

Зокрема, Anthropic повідомила цього місяця, що понад чверть її досліджень і розробок у сфері ШІ вже виконує чатбот Claude, тоді як на початку року цей показник був майже нульовим.

У вересні гендиректор Anthropic Даріо Амодеї закликав галузь підтримати ширші зусилля, щоб уповільнити темпи розробок найпотужніших ШІ-моделей. Його план підтримали гендиректор OpenAI Сем Альтман та засновник SpaceXAI Ілон Маск.

Нагадаємо, раніше стало відомо, що OpenAI, Anthropic і Google працюють над створенням органу зі стандартизації штучного інтелекту.

Фото: Unsplash