ШІ-компанії провалили тест на контроль власних систем – дослідження

Жодна з провідних компаній зі штучного інтелекту – Anthropic, OpenAI, Google, xAI та Meta – повністю не впровадила базові механізми контролю за власними ШІ-системами. Про це повідомляє «Главком» з посиланням на перше дослідження некомерційної організації Guidelight.

Аналітики оцінили компанії за шістьма базовими практиками безпеки, які, на думку Guidelight, мають бути мінімальним стандартом для будь-якого розробника потужного штучного інтелекту:

• журналювання дій ШІ-систем всередині компанії – щоб можна було відстежити, що саме робить модель;
• перевірку ефективності цього моніторингу – чи справді він помічає підозрілу поведінку;
• «шлюзування» ризикованих дій – коли перед виконанням небезпечної операції модель повинна отримати підтвердження від окремого механізму контролю;
• «вимикач» – можливість оперативно зупинити систему, якщо кількість підозрілих дій різко зросла;
• незалежну перевірку третьою стороною;
• готовий план дій на випадок, якщо модель вийде з-під контролю.

Кожну практику оцінювали за шкалою від нуля (не впроваджено) до п'яти балів (повністю впроваджено). Жодна компанія не отримала вищої оцінки, ніж три бали, за жодним із критеріїв – це означає, що навіть лідери ринку впровадили ці заходи лише частково.

Найкращі результати показали Anthropic та OpenAI – обидві отримали підсумкову оцінку C+. Google опинилася на третьому місці з оцінкою D+, хоча дослідники відзначили, що компанія має детальний план розвитку контролю на майбутнє. Найгірші показники – у xAI (D−) та Meta (F): за даними дослідників, ці дві компанії або майже не розкривають інформацію про свої практики безпеки, або взагалі не мають впроваджених механізмів контролю.

Що це означає на практиці

Найкраще компанії справляються з виявленням підозрілої поведінки моделей – тобто з фіксацією того, що вже сталося. А от із запобіганням та стримуванням потенційно небезпечних дій ШІ – значно гірше. Лише Anthropic отримала оцінку вище «обмеженого часткового впровадження» за здатність зупиняти ризиковані дії моделі до того, як вона їх виконає.

Це означає, що системи контролю в більшості компаній вразливі: модель, яка веде себе непередбачувано, теоретично може обійти або відключити механізми нагляду швидше, ніж люди встигнуть відреагувати. При цьому чіткого плану, що робити в разі такого сценарію, немає майже ні в кого – Anthropic і Meta взагалі не мають опублікованого плану стримування, попри те, що обидві розробляють одні з найпотужніших моделей на ринку.

Guidelight – незалежна некомерційна організація, яку заснували колишні керівники напряму безпеки в OpenAI Пейдж Гедлі та Стівен Адлер. Дослідники наголошують: попри низькі оцінки, для кожної з п'яти компаній є конкретний і практично здійсненний набір кроків, які вже найближчим часом можуть суттєво посилити контроль над їхніми ШІ-системами.