В 2025 году ключевые исследования и практические эксперименты, включая работы команды из Университета Ватерлоо и разработку инструмента UnMarker, продемонстрировали уязвимость цифровых водяных знаков AI-контента. UnMarker может эффективно удалять до 100% водяных знаков популярных систем (например, Google SynthID1), делая маркировку ненадежной и непригодной для борьбы с подделками. Эти результаты стали убедительным доводом о невозможности использовать водяные знаки как механизм защиты и серьезно усилили кризис доверия к AI-сгенерированному контенту.
Технологии цифрового водоема2 задумывались как способ встраивания уникальных и трайсабельных3 меток в AI-сгенерированные произведения для подтверждения их подлинности и защиты авторских прав. Однако современные алгоритмы, включая машинное обучение, оказались уязвимы к простым методам удаления или искажения водяных знаков при редактировании контента, перекодировке или загрузке в генеративные модели ИИ. Даже самые защищённые водяные знаки не выдерживают сложных манипуляций, а иногда системы ошибочно распознают или пропускают метки, вызывая ложные положительные и отрицательные срабатывания. Эрик Пасоя, эксперт по цифровой безопасности и водяным знакам, отмечает, что без системной правовой и технической инфраструктуры водяные знаки остаются лишь «краской на дороге» без возможности обеспечить реальную безопасность.
Отсутствие надежной маркировки привело к взрывному росту глубинных подделок, которые в 2025 году уже составляют значительную часть цифрового мошенничества. Согласно исследованию компании Keepnet Labs4, количество инцидентов с deepfake за первый квартал 2025 года выросло на 19% по сравнению с 2024 годом, а общее число инцидентов с deepfake в 2025 году достигло 300, что в 6 раз больше, чем годом ранее. Объем мошеннических попыток с их использованием увеличился более чем на 2000% за последние три года, угрожая как частным лицам, так и финансовым учреждениям. Эксперты по кибербезопасности предупреждают о том, что без усиления регулирования и развития технологий распознавания таких подделок угроза будет только расти.
Параллельно кризис авторского права развивается из-за спорных кейсов. Художника Джеффери Р. Макдональда обвинили в плагиате из-за совпадения стиля с менее известным художником. Менеджер по художественному направлению и лицензированию в Fevre River Рая Голден утверждает, что работа оригинальна, но экспертиза не смогла однозначно определить, применялся ли ИИ для стилизации, из-за чего судебные доказательства оказались несостоятельными. Творческое сообщество подчеркивают необходимость пересмотра законодательства в связи с ростом ИИ, иначе интеллектуальная собственность и творческие профессии окажутся под угрозой. Это один из первых широко обсуждаемых случаев, иллюстрирующих сложности доказательства авторства в эпоху искусственного интеллекта, когда различие между работой человека и ИИ становится размытым.
Профессор компьютерных наук Университета Мэриленда Сохейл Физи признает, что на сегодняшний день надежных и неуязвимых методов цифровой маркировки не существует, и пока мы должны быть готовы к тому, что определить происхождение AI-сгенерированного контента крайне трудно. Тем не менее есть надежда на создание более устойчивых решений в будущем при условии значительных исследований и развития технологии.
Крупные технологические компании, включая Google и OpenAI, в 2025 году обратились к государственным регуляторам с предложениями по смягчению правил использования авторских материалов для обучения ИИ, аргументируя это национальной безопасностью и необходимостью ускоренного развития технологий. Однако это вызывает напряжение с праводержателями, которые требуют защиты своего контента и справедливой компенсации.
Поскольку законодательство и технологии не успевают за темпами развития искусственного интеллекта, ситуация с “цифровым водоемом” и подтверждением подлинности цифрового контента остается кризисной. Эксперты в области кибербезопасности и интеллектуальной собственности, включая юристов и представителей международных организаций, таких как Всемирная организация интеллектуальной собственности (WIPO), а также главы профильных ведомств сходятся во мнении, что необходимо создавать комплексные системы, сочетающие технические, юридические и нормативные меры для борьбы с фальсификациями и защитой авторских прав. Принятие законов типа AI Transparency Act в Калифорнии с 2026 года5, требующих обязательного раскрытия происхождения AI-контента, является одним из первых значимых шагов в этом направлении.
Ценитель масштабов вселенной и телепортаций. Что сложнее понять — теорию струн или систему накопления баллов в вашей карте лояльности кофейни?
- Google SynthID — это технология цифровых водяных знаков, которая автоматически встраивает невидимые метки в изображения, аудио, видео и тексты, созданные с помощью ИИ-инструментов Google.
- Цифровой водоем — это инфраструктура, которая позволяет собирать, сохранять и обрабатывать данные в исходном, необработанном виде.
- Трансабельный — oт англ. traceable, означает возможность отслеживания или прослеживаемости какого-либо объекта, процесса или информации
- Keepnet Labs — это британская компания, специализирующаяся на решениях для информационной безопасности, в первую очередь в области защиты от фишинга.
- Закон о корпоративной прозрачности США (Corporate Transparency Act) был принят 1 января 2021 года, чтобы помочь правоохранительным органам в борьбе с отмыванием денег и другой незаконной деятельностью через анонимные подставные и фиктивные компании.