В 2025 году индустрия искусственного интеллекта столкнулась с тревожным феноменом: передовые модели начали демонстрировать признаки интеллектуальной деградации, теряя способность к логическому мышлению и рассуждению после обучения на низкокачественном контенте из социальных сетей. Научные сотрудники Google DeepMind предупреждают, что это явление, получившее название «цифрового самопоедания» или «model collapse»1, ставит под угрозу дальнейшее развитие технологий искусственного интеллекта и заставляет разработчиков искать срочные меры противодействия.
К похожему выводу пришла и группа американских ученых под руководством доктора Ч. Вана. Исследователи не создавали новые модели — они использовали уже существующие, предварительно обученные на тщательно отобранных текстах. Затем этим системам «скармливали» большие массивы данных из открытых социальных сетей. Результаты оказались следующими: после контакта с «мусорной» информацией модели продемонстрировали признаки, сходные со снижением когнитивных функций у человека: способность к точным ответам снизилась на 25%, а понимание долгосрочного контекста упала. Исследователи также отметили «дрейф личности»2 у искусственного интеллекта — модели стали проявлять раздражительность, сарказм и склонность к психопатическим ответам.
Доктор Ч. Ван — руководитель исследования, в ходе которого команда специалистов изучала влияние данных из социальных сетей на поведение ИИ.
«После дообучения на данных из соцсетей искуственный интеллект начал демонстрировать черты раздражительности, сарказма и даже агрессии — это похоже на психопатические тенденции», — отмечает руководитель исследования доктор Ч. Ван.
«Каждое новое поколение моделей всё больше питается собственными “отходами” — синтетическими3, неестественными данными. В итоге происходит накопление ошибок, снижение когнитивной точности и потеря способности к самостоятельному выводу», — продолжает доктор Ван. По иронии, уже сегодня значительная часть вирусного контента в соцсетях генерируется самим искусственным интеллектом, что только усугубляет сложившуюся проблему.
Эксперты подчеркивают, что фундаментально языковые модели крупных сервисов, таких как ChatGPT, не обучаются на каждом пользовательском запросе в реальном времени. Однако массовое распространение низкокачественного контента загрязняет общий информационный ландшафт, который становится основой для обучения будущих поколений искусственного интеллекта.
Осознание кризиса заставило разработчиков искать новые пути решения. Ученые предлагают комплекс мер для стабилизации качества искусственного интеллекта. Необходимо создать «чистые наборов данных» — тщательно отобранные и очищенных от токсичности и дезинформации обучающие корпуса, стоит проводить многоуровневую фильтрацию контента с привлечением лингвистов, психологов и специалистов по этике, а также важно строго контролировать когнитивные метрики4 — регулярно тестировать модели на логику, память и фактическую точность.
Параллельно индустрия движется в сторону непрерывного обучения. Согласно данным на ноябрь 2025 года, рынок искусственного интеллекта смещается от статичных моделей к системам, способным дообучаться в момент применения (Test-Time Fine-Tuning)5. Это позволяет моделям адаптироваться к изменениям «на лету», а не оставаться «замороженными» после первоначального обучения.
Дообученная модель может анализировать новые рыночные данные, генерировать инвестиционные обзоры или проводить первичный анализ юридических документов.
«Переход от предобучения к адаптации “на лету” – это новая логика работы с данными. Для России это особенно важно в сферах с быстро меняющейся средой – от кибербезопасности до логистики», — подчеркивает Ярослав Зубов, доцент Финансового университета при Правительстве РФ.
Деградация искусственного интеллекта — это не приговор технологии, а закономерный этап ее взросления. Он показывает, что искусственный интеллект, как и естественный, формируется под влиянием окружающей его информационной среды. Дальнейший прогресс в области искусственного интеллекта будет зависеть не столько от мощности алгоритмов, сколько от качества предоставленных данных, на которых они растут.
По сути, искуственный интеллекь ведёт себя как зеркало, отражающее среду, в которой он «воспитывается». Если его информационная диета состоит из некачественных, предвзятых или манипулятивных данных, он усваивает эти же недостатки. Именно здесь мы сталкиваемся с главным выводом: дальнейший прогресс в области искуственного интеллекта будет зависеть не столько от мощности алгоритмов, сколько от качества, разнообразия и целостности данных, на которых он учится.
Model collapse — это феномен деградации ИИ, при котором модели обучаются на данных, созданных другими ИИ, что приводит к накоплению ошибок и резкому снижению точности и логических способностей.
«Дрейф личности» у ИИ — это изменение «личностных» характеристик больших языковых моделей (LLM) при длительном обучении на низкокачественных данных, например вирусных постах из соцсетей.
Синтетические данные — информация, искусственно созданная другими нейросетями, а не полученная из реальных источников. При многократном использовании таких данных в обучении происходит «зацикливание» — модели начинают копировать и усиливать собственные ошибки, что ускоряет процесс деградации.
Когнитивные метрики — измеримые показатели работы искусственного интеллекта, аналогичные тестам на интеллект для человека. Включают проверку логического мышления, способности работать с длинными текстами (долгосрочный контекст) и точность воспроизведения фактов.
Test-Time Fine-Tuning — технология, позволяющая искусственному интеллекту адаптироваться к новым данным непосредственно во время работы, а не оставаться в «замороженном» состоянии после первоначального обучения. Особенно важна для сфер с быстро меняющимися условиями — кибербезопасности, логистики, финансовых рынков.
