Сервис Captcha требует от пользователей идентифицировать предметы, которых на самом деле не существует

Многие ресурсы и сервисы сегодня используют уже привычный инструмент отсеивания ботов – captcha. На днях он стал предлагать идентифицировать предметы, которых на самом деле не существует. Люди подозревают, что эти изображения сгенерировал искусственный интеллект, пишет Vice.

О проблеме начали рассказывать пользователи платформы по распространению цифровой информации Discord. Сразу несколько из них сообщили, что их просили отметить все изображения «Йоко» – это некий «микс» из улитки и детской игрушки йо-йо. Если внимательно присмотреться к опубликованному в Twitter скриншоту, можно увидеть интересную закономерность. Кажется, что все изображения сгенерировал искусственный интеллект.

@КриптонитКларк / Твиттер

Другой пользователь пожаловался в сети на то, что так и не получил доступ к Discord, поскольку не смог идентифицировать изображение кубика-головоломки. Впрочем, это не удивительно, учитывая, какие именно варианты ему предложила captcha.

Представители платформы отреагировали на недовольство пользователей. Они объяснили, что технология, генерирующая случайные подсказки captcha, принадлежит стороннему разработчику hCaptcha, который и контролирует, какие запросы сервис отправляет пользователям.

Также в компании отметили, что использование сгенерированных искусственным интеллектом изображений являлось частью небольшого эксперимента. На самом деле, их предлагали очень небольшой группе из сотен миллионов пользователей, однако этого стало достаточно, чтобы спровоцировать ряд обсуждений в соцсетях.

К слову, сервис captcha недавно начали применять для тренировки систем машинного обучения и генеративных сетей. Поэтому такие случаи вряд ли будут единичными.

Известно, что около двух месяцев назад сгенерированные искусственным интеллектом изображения предлагали идентифицировать пользователям платформы Reddit. По крайней мере, в одном случае ИИ неудачно нарисовал футболистов, а в другом – роботов.

 

Discord captcha used what seems to be AI generated images. Anyone know what its purpose is? [Discussion]
by u/sivstarlight in MachineLearning

These AI generated Captchas, I have been trying to sign in for 10 minutes
by u/Manicraft1001 in mildlyinfuriating

• Также предлагаем вам почитать, как GPT-4 нанял человека на работу и обманом заставил его ввести captcha на одном из сайтов, чтобы доказать, что он не робот.