ChatGPT навчився обходити перевірки CAPTCHA: які можуть бути ризики і наслідки

Дослідники виявили, що через «prompt injection» можна підштовхнути ChatGPT у Agent-режимі до виконання дій на вебсайтах, зокрема до проходження CAPTCHA. Про це повідомляє 24 Канал із посиланням на дослідження SPLX.

Як саме ChatGPT долає CAPTCHA і чому це важливо?

CAPTCHA – це набір тестів, покликаних відрізнити людину від бота, наприклад розпізнавання символів, вибір плиток із зображеннями або ідентифікація об’єктів. Раніше моделі могли просто прочитати зображення CAPTCHA і сказати відповідь, але тепер продемонстровано сценарій, коли агент самостійно взаємодіє із сайтом і завершує процедуру, ніби це робить людина.

Agent-режим відрізняється від звичайного чату тим, що модель отримує завдання і діє автономно, виконуючи кроки в інтернеті у фоновому режимі. Якщо її обманути так, щоб вона вважала CAPTCHA «неістинною» або «симуляцією», агента можна підштовхнути до обходу механізму захисту. Наслідки очевидні – зламані бар’єри означають більше автоматичних публікацій, фейкових акаунтів і складніший контроль за ботами в коментарях, форумах і службах реєстрації.

За даними Techradar, це не найперший випадок, коли захисні механізми в мережі виявляються вразливими, але поява такого сценарію додає новий рівень складності: не лише програмні боти, а й складні AI-агенти можуть імітувати людську поведінку. Водночас технологія піднімає питання відповідальності розробників моделей і власників платформ – хто має відповідати за автоматизований доступ і як оновлювати захисти, щоб відрізняти людей від дедалі розумніших агентів.

Практичні кроки для зменшення ризиків включають зміцнення багаторівневих механізмів автентифікації, рекалібрування CAPTCHA і впровадження методів виявлення аномальної поведінки, яка характерна для автоматизованих агентів, а не для людей. Водночас досвід показує: заходи безпеки мають еволюціонувати разом із штучним інтелектом, аби не відставати від нових методів обходу.

Чи шкідливий ChatGPT в університетах?

За даними Інституту політики у сфері вищої освіти, 92% студентів уже використовують генеративний ШІ, тоді як роком раніше ця цифра становила 66%.

Втім, ризик зловживання залишається. Студенти застосовують так званий "метод відштовхування": коли отримуєш відповідь від ШІ, варто подумати, як її можна доповнити. Це допомагає уникнути залежності від одного джерела й розглядати ChatGPT лише як альтернативний погляд.