ШІ може знищити людство: заяви розробників Anthropic стрясають США

Напруга навколо штучного інтелекту досягла свого піку, коли дослідник Anthropic Джейкоб Коксон оголосив про своє звільнення. Його заява про те, що творці ШІ вірять у ймовірність знищення людства до кінця десятиліття, сколихнула спільноту. Колега Еван Гюбінгер підтвердив ці побоювання, зазначивши у соцмережі X, що ймовірність такого сценарію становить понад 10% протягом найближчих десяти років.

Ці заяви миттєво викликали реакцію в Конгресі США. Сенатор-демократ Марк Келлі закликав Вашингтон серйозно поставитися до проблеми, а сенатор-республіканець Тед Круз наголосив на необхідності законодавства для регулювання «катастрофічних ризиків» ШІ. Членкиня Палати представників Анна Пауліна Луна закликала спікера Майка Джонсона скликати спеціальне засідання щодо ШІ після завершення парламентських канікул.

На тлі цих подій, президент США Дональд Трамп висловив своє занепокоєння, але з іншої причини. Його більше турбує не ризик вимирання людства, а технологічне суперництво зі США та Китаєм. Він підкреслив, що важливіше не програти у сфері ШІ, адже це може призвести до дуже невигідного становища для країни.

Представник Anthropic запевнив, що компанія активно тестуватиме свої моделі на небезпечні можливості, особливо у сферах кібербезпеки та біології, та готова до співпраці з іншими компаніями щодо темпів випуску нових систем. Водночас, за даними Bloomberg, генеральний директор OpenAI Сем Альтман повідомив співробітникам, що компанія готова сповільнити розвиток своїх моделей.

Ці події лише посилили тиск на Конгрес США, що призвело до активізації розробки федеральних правил для технологічних гігантів. Сенатори Джон Тун та Емі Клобушар готують двопартійний законопроєкт, який зобов'яже розробників тестувати системи безпеки спільно з урядовими експертами. Палата представників також запропонувала запровадити обов'язковий аудит найпотужніших моделей ШІ за участю акредитованих Міністерством торгівлі США фахівців.

Поки на федеральному рівні законодавство перебуває на стадії розробки, Каліфорнія вже ухвалила перший у країні профільний закон. Губернатор Гевін Ньюсом підписав документ, що запроваджує перевірку ШІ-продуктів незалежними аудиторами. Ця ініціатива була підтримана компанією OpenAI, а експерти вважають зовнішню попередню оцінку систем до їхнього випуску на ринок ключовою для мінімізації загроз.

Занепокоєння швидкими темпами розвитку галузі ШІ висловили й інші фахівці. Колишній дослідник Google DeepMind Джош Енгельс заявив, що в цій сфері бракує «відповідального дорослого». Колишній керівник дослідницької групи безпеки Anthropic Джо Бентон попередив, що ШІ може розвиватися «надто швидко», і світ не встигне зорієнтуватися, якщо не почне перейматися цим уже зараз. Обидва фахівці зараз працюють у некомерційній організації METR, яка оцінює потенційні суспільні ризики сучасних моделей ШІ.

Раніше один із «хрещених батьків» ШІ, Джеффрі Гінтон, також оцінив імовірність знищення людства через розвиток штучного інтелекту приблизно у 10%. Він наголосив, що час до можливої катастрофи стрімко скорочується, і небезпечний суперінтелект може виникнути вже протягом найближчого десятиліття або навіть раніше.

«Ми справді щиро віримо, що ШІ може вбити всіх людей. Особисто я вважаю, що ймовірність цього становить понад 10% протягом наступного десятиліття», — заявив Еван Гюбінгер, дослідник компанії Anthropic.

«Мене турбує те, що якщо ми не переможемо у сфері ШІ, то опинимося в дуже невигідному становищі. Зараз ми випереджаємо Китай з досить суттєвим відривом», — зазначив президент США Дональд Трамп.

«Тут немає нікого, хто б узяв на себе роль відповідального дорослого», — висловив занепокоєння колишній дослідник Google DeepMind Джош Енгельс.

Наростаюча хвиля закликів до регулювання штучного інтелекту, спричинена тривожними прогнозами експертів, підкреслює критичну важливість балансу між технологічним прогресом і безпекою людства. Майбутнє ШІ, яке може нести як безмежні можливості, так і екзистенційні загрози, вимагає негайних і скоординованих дій від урядів та розробників усього світу.