Глава OpenAI: світ має прийняти певні ризики ШІ заради його переваг

Генеральний директор OpenAI Сем Альтман заявив про фундаментальні розбіжності з конкурентною компанією Anthropic у підходах до регулювання штучного інтелекту. Він вважає, що суспільство має прийняти частину ризиків технології, щоб отримати від неї максимальну користь. Водночас Альтман наголосив, що не готовий миритися з катастрофічними сценаріями та втратою контролю над ШІ.

«Ми вважаємо, що світ має змиритися з тим, що траплятимуться й негативні речі — заради переваг цієї технології та можливості людей самостійно нею розпоряджатися», — заявив Альтман в інтервʼю для рубрики Decoded видання Politico та додав, що між OpenAI та Anthropic є «суттєві розбіжності». 

Anthropic тривалий час вважали одним із найактивніших прихильників регулювання ШІ в індустрії, тоді як OpenAI виступала за м’якший підхід. Однак останніми місяцями позиції компаній частково зблизилися через гучні хакерські атаки автономних агентів та випадки непередбачуваної поведінки моделей OpenAI, як-от злам платформи Hugging Face. Минулого місяця Альтман підтримав заклик генерального директора Anthropic Даріо Амодея щодо уповільнення розробки найпотужніших моделей ШІ. 

Попри це, гендиректор OpenAI намагався провести межу між підходом своєї компанії та позицією Anthropic. Він згадав критику щодо «захоплення регулятора» — звинувачення, яке технологічні радники з оточення президента США Дональда Трампа висували на адресу Anthropic.

«Я не згоден із цим, але розумію логіку людей, які міркують так: “Ця технологія стане настільки потужною й небезпечною, що лише одна лабораторія в Сан-Франциско повинна володіти нею, гарантувати відсутність негативних наслідків і вирішувати, як розподіляти отримані переваги”», — зазначив Альтман та назвав такий підхід «цілком неприйнятним компромісом», який суперечить підтримуваній OpenAI моделі регулювання з мінімальним втручанням.

Альтман додав, що не погодився б на «обмін», за якого компанія гарантувала б відсутність масштабних зламів, зловживань ШІ, шахрайства чи інших негативних наслідків. Він наголосив: «Я вважаю, що люди робитимуть значно більше — на порядки більше — корисних речей, ніж шкідливих». В Anthropic у відповідь заявили, що їхні пропозиції щодо регулювання стосуються лише передових моделей. 

Водночас глава OpenAI зазначив, що існують загрози, з якими він не готовий миритися. Зокрема, йдеться про «дійсно катастрофічні ризики», серед яких Альтман назвав можливість «серйозної втрати контролю над ШІ».

Заява Альтмана зʼявилася на тлі створення робочої групи Super Intelligence Force у США, до керівництва якої увійшли представники Національної розвідки, Пентагону, Федеральної торговельної комісії та Управління персоналом. Нова структура покликана координувати політику федерального уряду у сфері ШІ, регулювати відносини з бізнесом і захищати технологічне лідерство США у протистоянні з Китаєм.