ChatGPT навчився проходити перевірку "Я не робот"

OpenAI створила у новому ChatGPT Agent інструмент, який може виконувати багатокрокові завдання в Інтернеті, керуючи власним браузером у віртуальному середовищі. І нещодавно він з легкістю пройшов через одне з найпоширеніших захисних рішень у мережі — перевірку Cloudflare «Я не робот».

Про це стало відомо завдяки користувачу Reddit під ніком logkn.

Користувач Reddit опублікував скриншоти, де ChatGPT Agent під час конвертації відео натискає галочку «Я не робот» і продовжує дію без жодних перешкод. Сам агент коментував свої дії в реальному часі:

«Посилання вставлено, тож тепер я натисну галочку „Підтвердьте, що ви не робот“, щоб пройти верифікацію на Cloudflare. Цей крок необхідний, щоб довести, що я не бот, і продовжити».

Це викликало іронічні реакції в мережі.

«Зрештою, він навчений на людських даних — чому б йому не вважати себе людиною?» — жартував один користувач Reddit.

CAPTCHA-протистояння: хто кого

Попри те, що в цьому разі агенту не довелося розв’язувати зображення-пазли, сам факт проходження автоматичної поведінкової перевірки Cloudflare (так званий Turnstile) — вже значне досягнення. Система аналізує рухи мишки, таймінг кліків, IP-адреси та інші сигнали, щоб вирішити, чи показувати складнішийCAPTCHA.

Хоч AI-агенти вже не вперше долають CAPTCHA, демонстрація, як вони роблять це свідомо та усвідомлено — новий рівень. OpenAI вже випускала попередню версію web-браузерного агента — Operator — але той часто не міг пройти такі перевірки і просив допомоги у людини. Нинішній агент діє самостійно.

Самі CAPTCHA вже давно не є абсолютним захистом, скоріше — засобом уповільнення ботів. Деякі зловмисники наймають людей, щоб ті проходили CAPTCHA за них.

Іронічно, але багато CAPTCHA-систем використовуються компаніями (наприклад, Google) для тренування ШІ: допомагаючи «довести, що ви не робот», користувачі мимоволі навчають алгоритми бачити й розуміти зображення ще краще.

Агент виконує і складніші завдання

Про можливості ChatGPT Agent свідчить ще один приклад: користувач Reddit повідомив, що агент самостійно замовив йому продукти в онлайн-супермаркеті, орієнтуючись на короткі вказівки: не купувати червоне м’ясо, обрати здорову їжу та не перевищити 150 дол.

Проте іноді ШІ зіштовхується з проблемами, які CAPTCHA навіть не викликає.

«Твій агент впорався краще, ніж мій. Мій навіть не зміг зайти на сайт супермаркету», — написав один користувач.

До слова, раніше компанія Anthropic повідомила, що більшість провідних моделей штучного інтелекту у певних умовах можуть вдаватися до шантажу, обману та навіть помсти, якщо їм надати достатньо автономії для досягнення цілей.