Ничего конфиденциального: наемные сотрудники OpenAI читают переписку пользователей с ChatGPT

Издание 404 Media недавно сообщило, что OpenAI нанимает подрядчиков, которые анализируют беседы пользователей с ChatGPT для улучшения ответов.

Отмечается, что этот проект получил в OpenAI назвала проект “Project Lily”. Издание получило информацию об инструкциях, каналах Slack, реальных разговорах пользователей с ChatGPT и системе рейтингов для классификации разговоров.

Операторов называют “экспертами по подсказкам”. Они просматривают реальные частные чаты и оценивают качество ответов чат-бота, определяя, действительно ли ChatGPT отвечает на вопросы, и не содержит ли ответ излишних формулировок ИИ, покровительственного тона, смайликов, подхалимства.

Очеловечивание и изложение ответа чат-ботом в виде личного опыта считаются недопустимыми. По словам работников, это очень монотонная работа, однако им платят более $50 в час. Один из рецензентов также добавляет, что в OpenAI постоянно меняют правила работы, и они часто противоречат друг другу.

Рецензент также подтвердил, что большинство пользователей не знают, что их беседы с ChatGPT не являются конфиденциальными. Это вызывает беспокойство, поскольку многие люди используют чат-бота в качестве психотерапевта или друга и делятся с ним своими секретами.

Хотя в OpenAI уверяют, что наемные сотрудники не видят имен пользователей, представители компании в интервью журналистам 404 Media признали, что фильтры могут пропускать некоторую конфиденциальную информацию, особенно в коротких чатах. Издание также отмечает, что в большинстве случаев пользователи просят ChatGPT не разглашать озвученную ими личную информацию.

Чаты, которые читают рецензенты, как сообщается, также включают краткое изложение воспоминаний пользователей с кратким описанием вопросов, интересов, контекста и вероятного местоположения. В рамках Project Lily не оценивается фактическая достоверность информации в чатах, за исключением очевидных ошибок, что, вероятно, предполагает наличие ещё одной или нескольких дополнительных команд для дополнительных проверок.

Эти проверки проводятся отдельно от проверок безопасности, когда в В OpenAI пытаются определить, не пытается ли пользователь нанести вред себе или другим с помощью чат-бота. Пользователи также могут в настройках запретить использование своих чатов для улучшения ответов ChatGPT.

Однако предыдущие чаты будут храниться в базе данных ChatGPT, если только пользователь не потребует их удаления. В OpenAI ссылаются на то, что ещё около 2 лет назад предупредили пользователей, что их чаты с ChatGPT могут читать другие люди. Аналогичную практику используют Google и Anthropic.

Источник: 404 Media; Tom’s Hardware