ChatGPT Agent поставил галочку "Я не робот" и обошел систему защиты от ботов

В соцсети Reddit на странице сообщества для обсуждения продуктов OpenAI один из пользователей опубликовал свой опыт использования недавно запущенного помощника от OpenAI под названием ChatGPT Agent. На скрине бот без особых трудностей проходит онлайн-тест "Подтвердите, что вы не бот", сообщает New York Post.

Агент случайно нажимает кнопку "I am not a robot"
byu/logkn inOpenAI

Хотя издание является таблоидным, но прецедент с агентским GPT-4 реальный. Разработчики из OpenAI прокомментировали его на запрос New York Post. Они сообщили, что добавили в код помощника ряд ограничений, чтобы самостоятельность алгоритма не выходила из-под контроля.

Например, без подтверждения от пользователя агент не будет самостоятельно проходить верификацию вместо человека, даже если способен на это. OpenAI также запретили своему ИИ-агенту осуществлять самостоятельно финансовые операции.

Несмотря на повышение безопасности, разработчики признают новые угрозы, которые возникли с ростом самостоятельности искусственного интеллекта:

"Хотя [меры безопасности] значительно снижают риски, расширенные инструменты агента ChatGPT и более широкий охват пользователей означают, что общий уровень риска выше", — ответили они журналистам.

Пока GPT-4 может только самостоятельно ставить галочку "Я не бот/робот" в системе верификации Cloudflare. Более сложная защита от автоматического трафика CAPTCHA, требующая также выбирать картинки, пока еще остается надежной.

ChatGPT Agent может работать одновременно с вами на компьютере. Управлять мышкой, переключать вкладки в браузере, искать информацию. Это сделали для того, чтобы он мог выполнять сложные многоэтапные задачи, пока пользователь занят своими делами.

Например, агент-помощник может зарезервировать столик в ресторане, показать вам, как пользоваться определенной программой. Или сделать презентацию на работу, пока вы отвечаете на письма. Функция открыта для подписок Pro, Plus и Team. Но еще не доступна в Европе.

Энтузиасты и исследователи искусственного интеллекта отмечают, что меры безопасности разработчиков остаются хрупкими и ненадежными. Чтобы их преодолеть, для моделей GPT достаточно 10 долларов и 20 минут манипуляций с технологией на платформе разработчиков. После "отказа тормозов", предусмотренных программистами, искусственный интеллект может вести себя как социопат и генерировать сценарии с уничтожением человечества или свержением правительств. Такой эксперимент ранее проводило издание The Wall Street Journal.