Новый генератор изображений ChatGPT создает невероятно реалистичные поддельные чеки

В прошлом месяце OpenAI добавила в GPT-4o улучшенную генерацию изображений, которая позволяет создавать реалистичные изображения. В том числе значительно улучшилась генерация текста на изображениях. Люди уже начали использовать эту функцию для создания фальшивых квитанций из ресторанов, что может стать еще одним инструментом в уже широком арсенале ИИ-дипфейков, которые применяют мошенники.

Инвестор и активный пользователь соцсетей Диди Дас опубликовал в X фото поддельного чека из реального стейкхауса в Сан-Франциско, который, по его словам, был создан с помощью 4o.

I think in the original image the letters are too perfect and they don’t bend with the paper. They look like hovering above the paper. Here is my attempt to make it more realistic. Let me know what you think. pic.twitter.com/EixRSHubeY

— Michael Gofman (@michaelgofman) March 29, 2025

Другие пользователи также смогли воспроизвести подобные результаты, в частности добавляя пятна от еды или напитков, чтобы сделать подделку еще более реалистичной.

Самый правдоподобный пример происходит из Франции. Один из пользователей LinkedIn опубликовал смятый ИИ-сгенерированный чек от местной сети ресторанов.

TechCrunch также протестировал 4o и смог создать поддельную квитанцию для Applebee’s в Сан-Франциско. Хотя в этом случае было несколько очевидных признаков, что чек фальшивый. Во-первых, сумма общая использует запятую вместо точки. Во-вторых, математика не сходится. Модели ИИ все еще имеют проблемы с базовыми вычислениями, поэтому это не стало неожиданностью.

Но мошенникам не составит труда исправить несколько цифр с помощью редактора изображений или более точных запросов к ИИ.

Очевидно, что возможность легко создавать поддельные чеки открывает огромные возможности для мошенничества. Нетрудно представить, как подобные технологии используют для фальшивого возмещения расходов.

Представительница OpenAI Тая Кристиансон заявила, что все изображения, созданные ChatGPT, содержат метаданные, указывающие на их происхождение. Она также добавила, что OpenAI принимает меры в случае нарушения правил использования и постоянно учится на основе реального использования и отзывов пользователей.

На вопрос, почему ChatGPT вообще позволяет генерировать поддельные чеки, и соответствует ли это политике OpenAI, которая запрещает мошенничество, Кристиансон ответила, что цель OpenAI — предоставить пользователям как можно больше творческой свободы. Вместе с тем фейковые квитанции могут использоваться не только для мошенничества, но и для обучения финансовой грамотности, создания оригинального искусства и рекламы продуктов.

Источник: TechCrunch