ИИ уже освоил создание поддельных чеков с высокой достоверностью

Фото из открытых источников

Новые достижения в области генеративного искусственного интеллекта вызывают серьезную обеспокоенность в сфере информационной безопасности. Портал Naked Science раскрыл тревожную тенденцию: современные системы ИИ теперь способны создавать практически неотличимые от настоящих изображения финансовых документов.

Особенно впечатляющих результатов достигла последняя модель генеративного ИИ компании OpenAI под названием 4o. Эта система преодолела ранее существовавший барьер в области визуальной генерации – точное воспроизведение текста внутри изображений. Как отмечают специалисты, "мы достигли точки, когда цифровая реальность становится неотличимой от подлинной, стирая границы между настоящими документами и их имитациями".

Показательный эксперимент провел руководитель венчурной компании Menlo Ventures Диди Дас, который сгенерировал и опубликовал фотографию поддельного чека из известного стейк-хауса в Сан-Франциско. Изображение оказалось поразительно реалистичным, включая точную детализацию всех элементов: перечень заказанных блюд, корректные промежуточные суммы и даже правильно рассчитанные чаевые согласно принятым нормам.

Эксперты подчеркивают значительный технологический прорыв по сравнению с предыдущими версиями генеративных систем, которые часто ошибались при создании текстовых элементов, производя искаженные или абсурдные надписи. Новая модель демонстрирует высокую точность в генерации связного текста, соответствующего контексту и стилистике документа.

Потенциальные риски такого прогресса вызывают тревогу у специалистов по безопасности. Технология может быть использована злоумышленниками для создания убедительных подделок различных документов – от банковских чеков и налоговых форм до удостоверений личности и свидетельств о рождении. Возможности для мошенничества расширяются пропорционально совершенствованию генеративных алгоритмов.

Naked Science предупреждает о наступлении эры тотального недоверия к цифровым изображениям: в современных условиях практически любое изображение в интернете потенциально может оказаться искусной подделкой, созданной искусственным интеллектом.