Розробники ШІ йдуть з роботи через страх перед моделями, які можуть заподіяти шкоду людству

Фахівці, які працюють із найпотужнішими системами штучного інтелекту, дедалі частіше стикаються із сильним психологічним навантаженням. Частина дослідників звільняється, оскільки вважає, що компанії недостатньо уваги приділяють безпеці ШІ.

Про проблеми серед працівників OpenAI, Anthropic, Google DeepMind та Британського інституту безпеки штучного інтелекту (AISI) пише Financial Times із посиланням на нинішніх і колишніх співробітників галузі.

Особливе занепокоєння серед фахівців викликає те, наскільки швидко зростають можливості нових моделей. Колишній співробітник AISI розповів FT, що найбільше це турбує експертів із кібербезпеки та біохімії. Серед ризиків, які вони розглядають, — використання штучного інтелекту для створення вірусів, аналогів яких немає у природі.

Кілька працівників AISI через стрес були змушені піти на лікарняний. Зараз вони отримують психологічну допомогу.

Ще четверо співробітників інституту розповіли Financial Times, що додатковий тиск створюють жорсткі терміни, у які фахівці мають тестувати нові моделі штучного інтелекту.

Про схожі проблеми публічно говорили й працівники Anthropic, OpenAI та Google DeepMind. Деякі провідні дослідники залишили свої посади через психологічне навантаження, пов'язане з роботою над такими системами та оцінюванням ризиків від їхнього розвитку.

Дискусія про ризики загострилася на тлі швидкого розвитку найпотужніших моделей. 13 вересня керівники трьох провідних компаній у сфері штучного інтелекту — Anthropic, OpenAI та SpaceX AI — підтримали ідею сповільнити розвиток таких систем.

Однак механізму, який дозволив би реалізувати цю ідею, поки немає. Компанії не представили конкретного плану, за яким можна було б обмежити темпи розробки нових моделей.