OpenAI почне додавати водяні знаки до тексту ChatGPT у ЄС

OpenAI почне додавати невидимий водяний знак до тексту, згенерованого ChatGPT та Codex у Європейському Союзі, щоб відповідати Закону ЄС про штучний інтелект, повідомила компанія у своєму блозі .

Правила прозорості Закону ЄС про штучний інтелект , які набули чинності 2 серпня, вимагають від компаній, що займаються штучним інтелектом, маркувати контент, створений штучним інтелектом, таким чином, щоб його могли ідентифікувати інші системи.

OpenAI заявила, що водяний знак буде доступний протягом наступних тижнів для відповідних користувачів ChatGPT та Codex на всіх планах, але лише в ЄС. Розробники, які використовують API OpenAI будь-де у світі, можуть увімкнути його для вибраних моделей, починаючи з сьогоднішнього дня; він вимкнено за замовчуванням. OpenAI заявила, що не зробить текстовий водяний знак глобальним за замовчуванням під час запуску.

Водяний знак не є фактичним символом, а працює, ледь помітно формуючи вибір слів у моделі, залишаючи шаблон, який читачі не можуть побачити, але може розпізнати детектор. Оскільки він знаходиться в самих словах, він подорожує разом із текстом, коли його копіюють та вставляють. OpenAI заявила, що водяний знак не ідентифікує користувача, і що вони не побачили жодних суттєвих змін у продуктивності своїх моделей з його ввімкненням.

OpenAI також опублікував технічний звіт для свого методу під назвою textGrain разом з оголошенням. Написаний у співавторстві з дослідниками з Університету Пенсільванії та Єльського університету, він демонструє приклад використання секретного ключа для сортування передбачень наступного слова для завершення речення. Додайте сотні цих підштовхувань разом, і детектор зможе виявляти контент, згенерований штучним інтелектом, використовуючи лише текст і ключ.

Чи можна видалити водяний знак шляхом редагування? Тести OpenAI показують, що так. В одному тесті заміна 10% слів синонімами знизила рівень виявлення з приблизно 92% до 66%. Компанія також зазначила, що короткі уривки, математичні відповіді та перекладений текст важче виявити.

«Ці обмеження сприяють нашому рішенню надавати початковий доступ до детектора лише затвердженим дослідникам та експертним організаціям, які можуть допомогти нам оцінити його надійність та відповідальне використання», – заявили в компанії.

OpenAI також попередив, що відсутність водяного знака «не доводить авторство людини». Текст може бути занадто коротким або занадто сильно відредагованим, або ж він може походити від штучного інтелекту іншої компанії.

«[Водяні знаки] можуть вказувати на те, що система OpenAI згенерувала або обробила частину уривку, але не на те, скільки людського розсуду, редагування чи креативності було вкладено в це», – заявила компанія.

Оголошення з’явилося через два місяці після того, як  Anthropic оголосила, що додаватиме водяний знак  до тексту, згенерованого Claude, що сталося по всьому світу. Це рішення  викликало негативну реакцію деяких користувачів Claude , які стверджували, що вони надали «інструкції, контекст, рішення», тоді як Claude був лише «інструментом».