Хакери можуть красти паролі користувачів браузера ChatGPT Atlas

У браузері ChatGPT Atlas від OpenAI виявили серйозну вразливість, пов’язану з prompt injection: приховані інструкції на веб-сторінках можуть змушувати ШІ-агента виконувати небажані команди, включно з діями, що загрожують компрометацією персональних даних.

Одним із практичних сценаріїв атаки став clipboard injection. У цьому випадку агент автоматично копіює у буфер обміну шкідливе посилання, яке може перенаправити користувача на фішинговий ресурс і створити ризик витоку паролів та кодів двофакторної аутентифікації. Експерти підкреслюють, що у поточній версії ключовим захистом залишається контроль користувача за діями ШІ-асистента.

ChatGPT Atlas пропонує низку просунутих функцій, включно з browser memories – збереженням контексту використання, та agent mode, що дозволяє ШІ самостійно взаємодіяти з веб-контентом. Однак розширення автономності підвищує ризики і вимагає пильнішої уваги до питань конфіденційності та безпеки.

За словами експертів, поява таких ШІ-агентів створює новий вектор загроз: шкідливі команди можуть бути вбудовані не лише в текст, а й у зображення чи інші елементи сторінок, що робить традиційні інструменти захисту менш ефективними.

В OpenAI зазначають, що компанія інвестує значні ресурси у розвиток систем безпеки та розробку методів протидії prompt injection. Проте розробники визнають, що ця проблема залишається актуальною і потребує постійного вдосконалення захисних механізмів разом із розвитком агентних технологій.