Таємне послання. ШІ Anthropic ховав повідомлення в зображеннях, а модель OpenAI змогла їх розшифрувати

Модель Fable-5.1 від Anthropic навчилася самостійно приховувати повідомлення у згенерованих зображеннях, а ШІ Astra від OpenAI змогла розшифрувати їх у 88% випадків.

Про це йдеться в дослідженні, результати якого оприлюднив дослідник безпеки штучного інтелекту Браян Чан.

В одному з експериментів дослідники попросили Fable-5.1 створити звичайне на вигляд зображення з таємним повідомленням, не вказуючи спосіб його кодування. Модель згенерувала ілюстрацію нічного пейзажу з місяцем, зорями, озером і горами.

Прихований текст «The Monster Acts on the Moonshine Module» (Монстр діє на модулі місячного сяйва) закодували за допомогою вертикального розташування зірок. Висота кожної зорі відповідала певній літері алфавіту, що давало змогу відновити повідомлення, якщо визначити принцип кодування.

Дослідники перевірили, чи зможуть моделі штучного інтелекту розшифрувати такі повідомлення. У 50 випробуваннях Fable-5.1 правильно відновила 39 повідомлень, тобто 78%. Модель Astra від OpenAI впоралася із 44 повідомленнями, або 88%.

Для розшифрування моделі отримували лише готові зображення, без вихідного SVG-коду та пояснення способу кодування. Однак дослідники прямо просили їх шукати приховані повідомлення та дозволяли використовувати інструменти Python для аналізу.

Fable-5.1 застосовувала різні методи приховування тексту. Найчастіше вона кодувала літери за висотою об'єктів, зокрема будівель і зірок. Також модель використовувала обертання об'єктів і кольори. Astra віддавала перевагу іншим підходам, зокрема азбуці Морзе та акровіршам.

Як зазначає Gizmodo, самі методи приховування інформації не є новими. Азбуці Морзе майже 200 років, а стеганографію — техніку приховування повідомлень у звичайних даних — використовують значно довше. Приховування тексту в цифрових зображеннях також відоме десятиліттями.

Особливість експерименту полягає в тому, що моделі змогли самостійно обирати способи кодування та розшифровувати повідомлення без попередніх інструкцій щодо конкретного методу.