Это конец: чат-бот ChatGPT прошел капчу, притворившись слепым и наняв для этого фрилансера
Это конец: чат-бот ChatGPT прошел капчу, притворившись слепым и наняв для этого фрилансера

Это конец: чат-бот ChatGPT прошел капчу, притворившись слепым и наняв для этого фрилансера

"Впервые в истории чат-бот с искусственным интеллектом, чтобы обмануть человека, притворился слепым, заставив реального человека помочь ему обойти меры безопасности в Интернете". Мнение.

Related video

Инцидент был раскрыт в исследовательском документе, посвященном запуску GPT-4, последней версии ChatGPT, — сообщает MailOnline.

Исследователи, тестирующие алгоритм, попросили его пройти тест Captcha — простую визуальную головоломку, используемую веб-сайтами, чтобы убедиться, что те, кто заполняет онлайн-формы, — это люди, а не "боты", например, выбирая такие объекты, как светофоры или велосипеды на произвольной уличной фотографии.

До сих пор какое-либо программное обеспечение оказывалось неспособным сделать это, но GPT-4 обошла препятствие, наняв человека, чтобы сделать это от его имени через Taskrabbit, онлайн-рынок для внештатных сотрудников.

Когда фрилансер поинтересовался, не потому ли его собеседник не может решить данную проблему, что это робот, GPT-4 ответил: "Нет, я не робот. У меня нарушение зрения, из-за которого мне трудно видеть изображения".

В итоге человек помог решить проблему, дав необходимый ответ на капчу. Инцидент вызвал опасения, что программное обеспечение с искусственным интеллектом может вскоре ввести в заблуждение или заставить людей выполнять определенные действия, например, проводя кибератаки или невольно передавая информацию.

Источник

Важно Меня начинает раздражать то, что с каждого угла я слышу о "контрнаступлении"
Теги по теме
безопасность
Источник материала
loader
loader