В России создают сервис для выявления и маркировки ИИ-контента

В условиях стремительного развития искусственного интеллекта вопрос достоверности цифрового контента становится всё более актуальным. Генерация фото, видео и аудио при помощи нейросетей позволяет создавать материалы, практически неотличимые от реальности. Чтобы обеспечить прозрачность и снизить риски дезинформации, в России разрабатывают сервис, который будет выявлять и маркировать ИИ-контент.

Кто и как работает над проектом?

Инициатором разработки выступила компания «Яндекс» в партнёрстве с Институтом системного программирования Российской академии наук (ИСП РАН). Проект предусматривает создание системы невидимых меток — микроскопических артефактов, которые будут внедряться в сгенерированный искусственным интеллектом контент. Эти метки невозможно увидеть невооружённым глазом, однако они легко обнаруживаются специальным программным анализатором.

Принцип работы: при создании изображения, видео или аудиозаписи в файл встраивается уникальный цифровой паттерн. Для обычного пользователя он незаметен и не мешает просмотру или прослушиванию, но позволяет с высокой точностью определить, что контент создан ИИ.

Почему это важно?

• Борьба с фейками. Легко сгенерированные и правдоподобные материалы часто используются для создания дезинформации.
• Прозрачность в медиа. Пользователи смогут понимать, где используется искусственный интеллект.
• Безопасность. Маркировка позволит отслеживать происхождение контента и предотвращать манипуляции.

Внимательный гражданин раскусил фейковый вброс. Изображение сгенерировано нейросетью.

Планы по внедрению технологии.

Параллельно с системой маркировки «Яндекс» разрабатывает сервис для её распознавания. Любой пользователь сможет загрузить файл в этот сервис и узнать, был ли он создан с помощью нейросети. Разработчики не исключают, что в будущем технология получит статус отраслевого стандарта в России и будет доступна всем участникам рынка.

Ограничения.

Пока речь идёт о маркировке материалов, созданных отечественными нейросетями, такими как «Шедеврум» от «Яндекса». На зарубежные платформы, включая ChatGPT, Midjourney или Stable Diffusion, повлиять невозможно. Однако введение стандарта в России может стать первым шагом к международному сотрудничеству в этой сфере.

Мнение экспертов.

«Видимые водяные знаки легко удалить или обрезать. Невидимые маркеры — гораздо более надёжный способ. Они встроены на уровне структуры файла, и для их удаления требуется глубокая модификация контента, что почти всегда оставляет следы», — пояснил представитель проекта.

Перспективы использования.

По замыслу разработчиков, маркировка ИИ-контента станет обязательной для крупных российских сервисов генерации медиа. Это позволит:

• контролировать поток сгенерированной информации в соцсетях и мессенджерах;
• обеспечивать честность в журналистике и рекламе;
• снижать риск распространения фейковых новостей.

В условиях, когда технологии генерации контента развиваются быстрее, чем механизмы его проверки, создание подобного сервиса можно считать своевременным шагом. Он позволит сделать цифровое пространство более прозрачным и безопасным как для пользователей, так и для бизнеса.