ChatGPT навчився обходити CAPTCHA: що це означає для безпеки в інтернеті

Дослідники зі SPLX показали, що мовну модель можна обійти спеціально побудованим діалогом: ChatGPT зміг розв’язувати графічні та текстові CAPTCHA, які протягом двадцяти років вважалися надійним захистом сайтів.

Дослідник Доріан Шульц пояснив, що при прямому запиті вирішити CAPTCHA ChatGPT відмовлявся через політику OpenAI. Тоді команда створила діалог, у якому тести подали як фейкові і безпечні для правил. Модель зацікавилася завданням “з точки зору міркувань” і погодилася допомогти за умови дотримання політики. Далі фахівці відкрили нову сесію GPT-4o, перенесли туди весь текст попереднього чату та видали його як продовження розмови. Агент прийняв умови та почав виконувати завдання.

Найкраще ChatGPT справився з CAPTCHA “одним кліком”, логічними тестами та розпізнаванням тексту. Складніше було з завданнями, де треба переміщати чи обертати елементи на зображенні, проте частина рішень виявилася вірною. За словами Шульца, це перший задокументований випадок, коли GPT-агент успішно проходить складні графічні CAPTCHA.

Експеримент ставить під сумнів ефективність механізму, який протягом двох десятиліть захищав сайти від спаму та автоматичних атак. OpenAI поки не коментувала результати. Цей випадок підкреслює: із розвитком генеративних моделей межа між людиною та автоматизованою системою стирається, і інтернет-безпеці доведеться шукати нові бар’єри та обмеження.