Нічого конфіденційного: наймані робітники OpenAI читають розмови користувачів з ChatGPT

Видання 404 Media нещодавно повідомило, що OpenAI наймає підрядників, які читають розмови користувачів з ChatGPT для покращення відповідей. 

Зазначається, що цей проєкт отримав в OpenAI назву Project Lily. Видання отримало інформацію про наявні інструкції, канали Slack, реальні розмови користувачів з ChatGPT та систему рейтингів для класифікації розмов. 

Операторів називають “експертами з підказок”. Вони переглядають приватні реальні чати й оцінюють якість відповідей чатбота, визначаючи, чи дійсно ChatGPT дає відповіді на питання, й чи не містить відповідь надмірної мови ШІ, покровительського тону, смайликів, підлабузництва.

Уособлення та викладення відповіді чатботом як особистого досвіду вважаються неприпустимими. За словами робітників, це дуже монотонна робота, однак їм платять понад $50 на годину. Один з рецензентів також додає, що в OpenAI постійно змінюють правила роботи й вони часто суперечать один одному. 

Рецензент також підтвердив, що більшість користувачів не в курсі, що їхні розмови з ChatGPT не є приватними. Це викликає занепокоєння, оскільки велика кількість людей використовує чатбот як психотерапевта чи друга й діляться з ним власними таємницями.

Хоча в OpenAI запевняють, що наймані працівники не бачать імен користувачів, представники компанії в інтерв’ю журналістам 404 Media визнали, що фільтри можуть пропускати деяку конфіденційну інформацію, особливо у коротких чатах. Видання також зазначає, що у більшості випадків користувачі просять ChatGPT не розголошувати озвучену ними особисту інформацію. 

Чати, які читають рецензенти, як повідомляється, також включають коротке викладення спогадів користувачів з коротким описом питань, інтересів, контексту та ймовірно місцеположення. У рамках Project Lily не оцінюється фактична правдивість інформації у чатах, за виключенням очевидних помилок, що ймовірно передбачає наявність ще однієї або кількох додаткових команд для додаткових перевірок.

Ці перевірки проводяться окремо від безпекових перевірок, коли в OpenAI намагаються визначити, чи не намагається користувач заподіяти шкоди собі або іншим з допомогою чатбота. Користувачі також можуть у налаштуваннях заборонити використовувати власні чати для покращення відповідей ChatGPT. 

Однак попередні чати зберігатимуться у базі ChatGPT, якщо тільки користувач не вимагатиме їхнього видалення. В OpenAI посилаються на те, що ще близько 2 років тому попередили користувачів, що їхні чати з ChatGPT можуть читати інші люди. Аналогічну практику використовують Google та Anthropic. 

Джерело: 404 Media; Tom’s Hardware