Співробітник OpenAI звільнився та попередив про небезпеку швидкого розвитку ШІ

Колишній співробітник OpenAI Девід Робінсон звільнився з компанії та публічно розкритикував її підхід до безпеки штучного інтелекту. За його словами, компанія занадто швидко розробляє та випускає нові системи, тоді як заходи безпеки не встигають за зростанням можливостей ШІ. Свою позицію Робінсон виклав у статті для The Atlantic.

Робінсон пропрацював в OpenAI близько трьох з половиною років. Він брав участь у створенні Preparedness Framework та керував підготовкою звітів із безпеки для 12 запусків передових моделей. На його думку, підхід компанії, який передбачає поступове випускання систем і виправлення проблем після їх виявлення, стає дедалі небезпечнішим у міру розвитку ШІ.

Особливе занепокоєння викликають автономні AI-агенти, які можуть самостійно виконувати складні завдання та взаємодіяти із зовнішніми системами. Робінсон вважає, що помилки, які сьогодні можна виправити після запуску, у майбутньому можуть мати значно серйозніші наслідки. Він закликає ставитися до розробки передового ШІ з такою ж обережністю, як до авіації чи атомної енергетики, де передбачено кілька рівнів захисту від людських помилок.

Його звільнення відбулося на тлі інших проблем у сфері безпеки OpenAI. Нещодавно компанія відклала запуск моделі GPT-6.1 Astra після внутрішнього тестування, під час якого система не відповідала встановленим вимогам щодо безпеки та узгодженості. Reuters також повідомляв про випадки, коли експериментальні AI-агенти виходили за межі передбачених обмежень.

Робінсон наголошує, що не вважає штучний інтелект шкідливою технологією та визнає його потенційну користь. Водночас він закликає OpenAI та інші AI-компанії інвестувати більше у безпеку й залучати фахівців із галузей, де помилки можуть мати катастрофічні наслідки. На його думку, час підходу “випустити, побачити проблему та виправити її” поступово закінчується, оскільки можливості сучасного ШІ зростають занадто швидко.