ChatGPT научился проходить проверку "Я не робот"

OpenAI создала в новом ChatGPTAgent инструмент, который может выполнять многошаговые задачи в Интернете, управляя собственным браузером в виртуальной среде. И недавно он с легкостью прошел через одно из самых распространенных защитных решений в сети — проверку Cloudflare «Я не робот».

Об этом стало известно благодаря пользователю Reddit под ником logkn.

Пользователь Reddit опубликовал скриншоты, где ChatGPT Agent во время конвертации видео нажимает галочку «Я не робот» и продолжает действие без всяких препятствий. Сам агент комментировал свои действия в реальном времени:

«Ссылка вставлена, так что теперь я нажму галочку „Подтвердите, что вы не робот“, чтобы пройти верификацию на Cloudflare. Этот шаг необходим, чтобы доказать, что я не бот, и продолжить».

Это вызвало иронические реакции в сети.

«В конце концов, он обучен на человеческих данных — почему бы ему не считать себя человеком?» — шутил один пользователь Reddit.

CAPTCHA-противостояние: кто кого

Несмотря на то, что в этом случае агенту не пришлось разгадывать изображения-пазлы, сам факт прохождения автоматической поведенческой проверки Cloudflare (так называемый Turnstile) — уже значительное достижение. Система анализирует движения мышки, тайминг кликов, IP-адреса и другие сигналы, чтобы решить, показывать ли более сложный CAPTCHA.

Хотя AI-агенты уже не впервые преодолевают CAPTCHA, демонстрация, как они делают это сознательно и осознанно — новый уровень. OpenAI уже выпускала предыдущую версию web-браузерного агента — Operator — но тот часто не мог пройти такие проверки и просил помощи у человека. Нынешний агент действует самостоятельно.

Сами CAPTCHA уже давно не являются абсолютной защитой, скорее — средством замедления ботов. Некоторые злоумышленники нанимают людей, чтобы те проходили CAPTCHA за них.

Иронично, но многие CAPTCHA-системы используются компаниями (например, Google) для тренировки ИИ: помогая «доказать, что вы не робот», пользователи невольно обучают алгоритмы видеть и понимать изображения еще лучше.

Агент выполняет и более сложные задачи

О возможностях ChatGPT Agent свидетельствует еще один пример: пользователь Reddit сообщил, что агент самостоятельно заказал ему продукты в онлайн-супермаркете, ориентируясь на короткие указания: не покупать красное мясо, выбрать здоровую пищу и не превысить 150 долл.

Однако иногда ИИ сталкивается с проблемами, которые CAPTCHA даже не вызывает.

«Твой агент справился лучше, чем мой. Мой даже не смог зайти на сайт супермаркета», — написал один пользователь.

К слову, ранее компания Anthropic сообщила, что большинство ведущих моделей искусственного интеллектав определенных условиях могут прибегать к шантажу, обману и даже мести, если им предоставить достаточно автономии для достижения целей.