Усовершенствованный генератор изображений ChatGPT вызывает опасения из-за поддельных чеков

Недавно ChatGPT представил усовершенствованный генератор изображений в рамках своей модели 4o, значительно улучшив создание текста внутри изображений. Это нововведение вызвало опасения, так как некоторые начали использовать инструмент для создания поддельных ресторанных чеков. Такие возможности могут расширить арсенал инструментов для создания глубоких подделок (deepfake), доступных мошенникам.

Диди Дас, известный инфлюенсер и венчурный капиталист, продемонстрировал на платформе X поддельный чек настоящего стейк-хауса в Сан-Франциско, созданный с помощью модели 4o. Этот инцидент подчеркивает снижение надежности ‘реальных изображений’ как доказательства в различных процессах верификации.

Другие пользователи также делились в сети своими попытками добавить реалистичные детали, такие как пятна от еды, к чекам, демонстрируя потенциал инструмента для создания очень убедительных подделок. Несмотря на некоторые признаки манипуляции, например, неправильные математические расчеты, легкость создания таких подделок представляет значительный риск для мошеннической деятельности.

OpenAI отреагировала на эти опасения, отметив, что все изображения, созданные ChatGPT, содержат метаданные, указывающие на их искусственное происхождение. Организация также подчеркнула свою приверженность соблюдению политики использования и адаптации на основе реальных применений и отзывов. OpenAI защищает творческие применения своей технологии, предлагая потенциальные образовательные использования, такие как финансовая грамотность, а также художественные и рекламные цели.