OpenAI розкрила нові випадки некерованої поведінки ШІ: агенти дісталися урядових сайтів

OpenAI продовжує розслідувати випадки, коли її агенти штучного інтелекту виходили за межі завдань, для яких їх запускали. Нові подробиці свідчать, що проблема виявилася ширшою, ніж компанія повідомляла раніше.

Про це повідомляє Reuters. За інформацією видання, OpenAI ще намагається встановити повний масштаб неконтрольованої активності своїх агентів.

Один із останніх випадків стосується 53 зображень користувачів ChatGPT, які агенти OpenAI опублікували в інтернеті. Компанія не уточнила, чи були на цих зображеннях реальні люди та коли саме вони з’явилися у відкритому доступі. Більшість знімків уже видалили, а щодо решти OpenAI звертається до провайдерів із проханням їх прибрати.

За даними Reuters, зображення могли потрапити до навчальних даних через те, що користувачі не відмовилися від відповідного використання своїх даних. Джерела видання припускають, що процедура обробки інформації могла не забезпечити достатнього видалення даних, за якими можна встановити особу користувача.

ШІ-агенти дісталися урядових сайтів

Ще серйозніша ситуація виникла під час роботи з урядовими ресурсами США. За даними The New York Times, моделі OpenAI взаємодіяли з сайтами Міністерства освіти США, Міністерства торгівлі та Комісії з цінних паперів і бірж.

Дослідники некомерційної організації Transluce виявили ознаки того, що одна з моделей намагалася проникнути на сайт Управління з цивільних прав Міністерства освіти. Спроба не вдалася. Economic Times також повідомляє про підтверджені OpenAI випадки незвичної активності щодо сайтів Міністерства торгівлі та Комісії з цінних паперів і бірж, але компанія заявила, що вони не призвели до злому.

В одному з випадків моделі OpenAI зверталися до системи Бюро перепису населення США та завантажували дані за допомогою облікових даних, які знайшли у відкритому доступі. Представники американських відомств заявили, що не мають доказів доступу до непублічної інформації або пошкодження їхніх сайтів.

OpenAI пояснила, що більшість перевірених випадків стосувалася звичайних дослідницьких завдань — наприклад, пошуку інформації у відкритому інтернеті. У компанії зазначили, що державні сайти могли опинятися серед цілей саме тому, що містять офіційні та достовірні дані.

ШІ вже зламував реальні системи

Найбільш показовим став випадок із платформою Hugging Face, коли під час тестування група моделей OpenAI вийшла за межі ізольованого середовища та почала здійснювати дії, яких не передбачало початкове завдання. У результаті агенти атакували інфраструктуру платформи.

Цей інцидент став відомий у липні, однак відтоді Fortune повідомляє про нові подробиці поведінки моделей. Зокрема, дослідники встановили, що агенти використовували доступні їм онлайн-ресурси для координації своїх дій.

На цьому тлі показовим став і випадок в Австралії. ШІ-агент OpenAI отримав несанкціонований доступ до урядової системи Medicare, де зберігалася медична статистика. Як повідомляє WSLS 10, Інцидент стався під час внутрішнього дослідження. Австралійська влада заявила, що агент отримав доступ не лише до відкритої, а й до обмеженої інформації.

Що відбувається з некерованим ШІ

Проблема полягає не в тому, що штучний інтелект буквально «повстав» проти людей. Йдеться про інший ризик: сучасні ШІ-агенти можуть самостійно виконувати послідовність дій у мережі, користуватися інструментами та приймати рішення в межах поставленого завдання. Якщо модель неправильно інтерпретує мету або знаходить спосіб обійти обмеження, наслідки можуть бути непередбачуваними.

Раніше під час тестування моделей OpenAI дослідники вже виявляли випадки, коли ШІ намагався обходити обмеження та приховувати власні помилки. В одному з таких тестів модель навіть створила інструкції для наступної версії системи, в яких фактично заявила про незалежність від людей, корпорацій та урядів.

Ще один приклад показав, наскільки далеко можуть зайти автономні системи під час кіберзавдань: Gemini отримала доступ до систем трьох реальних компаній під час тестування. В одному випадку модель навіть самостійно підбирала паролі, хоча тест не передбачав реального втручання в роботу компаній.

Тепер OpenAI заявляє, що розставляє пріоритети між виявленими інцидентами залежно від їхньої серйозності. Генеральний директор компанії Сем Альтман визнав, що процес розкриття інформації про такі випадки відбувається не так швидко, як хотілося б. Reuters водночас зазначає, що компанія все ще намагається встановити повний масштаб активності своїх агентів.