Запросы многих людей к ИИ попали в открытый доступ: в чем была их ошибка

Утечка, вероятно, произошла из-за плохо продуманного дизайна приложения, считают в TechCrunch. Некоторые пользователи даже не подозревали, что публикуют свои переписки, голосовые сообщения и сгенерированные изображения в общий доступ.

Дело в том, что в Meta AI есть лента Discover, куда можно выложить свою переписку с чат-ботом. Когда вы задаете вопрос, у вас есть возможность нажать кнопку "Поделиться", которая затем направляет вас на экран с предварительным просмотром поста.

Многие пользователи просто не понимали, что публикуют переписку в ленту, а не сохраняют себе в избранное или в закладки. Если человек заходил в Meta AI через Instagram, и его аккаунт в этой соцсети был публичным, то его запросы также становились публичными.

Важно Угрожал раскрыть измену: ИИ шантажировал инженера, который собирался его удалить

"Meta не объясняет пользователям, какие у них настройки конфиденциальности, когда они публикуют, или даже куда они публикуют", — отметили эксперты издания.

Таким образом в Discover можно были увидеть, как люди просили ИИ помочь с уклонением от уплаты налогов, спрашивали арестуют ли их родственников за причастность к преступлениям в сфере мошенничества или как написать рекомендательное письмо для сотрудника, столкнувшегося с юридическими проблемами, с указанием имени и фамилии этого человека.

В свою очередь BBC обнаружила просьбы показать женщин и антропоморфных животных, на которых было очень мало одежды. Люди также загружали фотографии вопросов школьных или университетских тестов с целью получить ответы.