OpenAI випустила інструмент для виявлення зображень, згенерованих ШІ

OpenAI випустила новий інструмент для визначення того, чи зображення було згенероване з допомогою її програми DALL-E 3. Компанія заявила у своєму блозі, що інструмент ідентифікує їх з точністю до 98%.

 У дописі в блозі зазначено, що OpenAI почала розробляти нові методи аналізу походження, щоб відстежувати, контент був створений з  допомогою штучного інтелекту. Йдеться про новий класифікатор виявлення зображень, створених ШІ, а також удосконалений водяний знак, для їх маркування.

Якість ідентифікації згадуваним інструментом сягає 98% у випадках, коли збораження згенеровані у програмі DALL-E 3. Проте точність є нижчою, коли йдеться про обрізані зображення, стиснені файли та скриншоти.

Разом із цим інструмент малопридатний для ідентифікації зображень, створених в інших ШІ-генераторах. Приміром, якщо вони створені у програмі Midjourney, — ймовірність ідентифікації сягає лише 5-10%.

Про рекомендації, як самостійно ідентифікувати зображення, згенеровані ШІ читайте у публікації «Зберігайте спокій і розрізняйте сорти дезінформації».

Фото: Open AI / Getty Images