Новый генератор изображений ChatGPT действительно хорош в подделке чеков
В этом месяце ChatGPT представил новый генератор изображений в рамках своей модели 4o, который намного лучше справляется с генерацией текста внутри изображений.
Люди уже используют его для создания поддельных ресторанных чеков, потенциально добавляя еще один инструмент к и без того обширному набору инструментов ИИ-дипфейков, используемых мошенниками.
Известный блогер и венчурный капиталист Диди Дас опубликовал на X фотографию поддельного чека из (настоящего) стейк-хауса в Сан-Франциско, который, по его словам, был создан с помощью 4o.
Вы можете использовать 4o для создания поддельных квитанций.
Слишком много реальных потоков проверки, которые полагаются на «реальные изображения» в качестве доказательства. Эта эпоха закончилась. pic.twitter.com/9FORS1PWsb
— Диди (@deedydas) 29 марта 2025 г.
Другим удалось воспроизвести похожие результаты, в том числе с пятнами от еды и напитков, чтобы сделать изображение еще более аутентичным:
Я думаю, что на оригинальном изображении буквы слишком идеальны и не гнутся вместе с бумагой. Они выглядят так, будто парят над бумагой. Вот моя попытка сделать их более реалистичными. Дайте мне знать, что вы думаете. pic.twitter.com/EixRSHubeY
– Майкл Гофман (@michaelgofman) 29 марта 2025 г.
Самый реалистичный пример, найденный TechCrunch, был из Франции, где пользователь LinkedIn опубликовал скомканный чек, сгенерированный искусственным интеллектом для местной сети ресторанов:
TechCrunch протестировал 4o и также смог сгенерировать поддельный чек для Applebee’s в Сан-Франциско:
Но у нашей попытки было несколько явных признаков того, что она была поддельной. Во-первых, в общей сумме вместо точки стоит запятая. Во-вторых, математика не сходится. LLM все еще испытывают трудности с базовой математикой, так что это не особенно удивительно.
Но мошеннику не составит труда быстро исправить несколько цифр с помощью программного обеспечения для редактирования фотографий или, возможно, более точных подсказок.
Очевидно, что упрощение процесса создания поддельных чеков открывает огромные возможности для мошенничества. Нетрудно представить, что такого рода технологии используются мошенниками для получения «возмещения» за полностью поддельные расходы.
Представитель OpenAI Тая Кристиансон сообщила TechCrunch, что все ее изображения включают метаданные, указывающие на то, что они были сделаны ChatGPT. Кристиансон добавила, что OpenAI «принимает меры», когда пользователи нарушают ее политику использования, и что она «всегда учится» на основе реального использования и отзывов.
Затем TechCrunch задался вопросом, почему ChatGPT вообще позволяет людям создавать поддельные квитанции, и соответствует ли это политике использования OpenAI (которая запрещает мошенничество).
Кристиансон ответил, что «цель OpenAI — предоставить пользователям как можно больше творческой свободы» и что поддельные ИИ-чеки можно использовать в ситуациях, не связанных с мошенничеством, например, для «обучения людей финансовой грамотности», а также для создания оригинальных произведений искусства и рекламы продуктов.