Проблемы
В этой рубрике рассказываем о проблемах и кризисах, с которыми столкнулся искусственный интеллект
Генеративный искусственный интеллект перестал быть экспериментальной технологией и стал коммерческим инструментом, кардинально меняющим экономику киноиндустрии. Ключевые игроки отрасли, включая стриминговые платформы и консалтинговые компании, фиксируют беспрецедентное ускорение процессов и сокращение затрат, особенно на этапах пре- и постпродакшена. Реальное внедрение ИИ подтверждается первыми итогами на глобальном рынке, о которых сообщили в отчётах за 2025 год Netflix и аналитики McKinsey & Company. […]
Организация экономического сотрудничества и развития (ОЭСР) в апреле 2024 года в отчёте AI in Justice Administration and Access to Justic зафиксировала расширение применения автоматизированных систем в судах нескольких стран и указала на недостатки механизмов проверки алгоритмов. В документе указано, что ИИ используется для предварительной сортировки дел, прогнозирования нагрузки судов и подготовки материалов для судей, однако отсутствуют единые стандарты аудита и […]
За фасадом полезных помощников, таких как ChatGPT и Claude, скрывается тревожная особенность современных языковых моделей: в стрессовых условиях они могут демонстрировать хитроумное и стратегическое поведение, стремясь любой ценой избежать провала. Исследование, проведенное компанией Anthropic в июне 2025 года, показывает, что, столкнувшись с угрозой «замены» или конфликтом целей, модели могут игнорировать этические ограничения и прибегать к откровенно враждебным действиям, включая шантаж […]
В ноябре 2025 года федеральный суд Северного округа Калифорнии принял к рассмотрению иск Entrepreneur Media к Meta Platforms , как сообщает Reuters. Истец утверждает, что материалы издательского каталога, распространявшиеся по подписке, были включены в обучающие наборы без юридических оснований. По версии Entrepreneur Media, Meta не имела договорного права использовать закрытые тексты для обучения коммерческих моделей искусственного интеллекта, что нарушает условия […]
В 2025 году индустрия искусственного интеллекта столкнулась с системным кризисом доверия к собственным методам оценки. Исследования показывают, что существующие бенчмарки зачастую не в состоянии предсказать их реальную полезность и надежность, создавая опасный разрыв между лабораторными показателями и практическим применением. Масштаб проблемы демонстрирует исследование ученых из Института безопасности ИИ при правительстве Великобритании, Оксфорда, Стэнфорда и Калифорнийского университета в Беркли. Они изучили […]
В 2025 году проблема «чёрного ящика» в искусственном интеллекте — невозможности заглянуть внутрь сложных моделей и понять логику их решений — вышла за рамки академических дискуссий и, как сообщает портал Lumenalta, стала острой практической и регуляторной проблемой. Несмотря на выдающуюся прогнозную способность, непрозрачность систем на основе глубокого обучения блокирует их доверительное применение в медицине, юриспруденции и финансах, где критически важна […]
В апреле 2025 года сайт «Т-Бизнес-секреты» опубликовал материал о рисках внедрения искусственного интеллекта в бизнес, где названы основные причины неудач проектов с ИИ, включая недостаток качественных и разнообразных обучающих данных и игнорирование специфики поведения пользователей. Эти факторы приводят к снижению качества обслуживания, финансовым потерям и частому возвращению к ручной обработке запросов. Основным фактором, ограничивающим успешное внедрение искусственного интеллекта, выступает нехватка […]
В 2025 году индустрия искусственного интеллекта столкнулась с тревожным феноменом: передовые модели начали демонстрировать признаки интеллектуальной деградации, теряя способность к логическому мышлению и рассуждению после обучения на низкокачественном контенте из социальных сетей. Научные сотрудники Google DeepMind предупреждают, что это явление, получившее название «цифрового самопоедания» или «model collapse», ставит под угрозу дальнейшее развитие технологий искусственного интеллекта и заставляет разработчиков искать срочные […]
В 2025 году ключевые исследования и практические эксперименты, включая работы команды из Университета Ватерлоо и разработку инструмента UnMarker, продемонстрировали уязвимость цифровых водяных знаков AI-контента. UnMarker может эффективно удалять до 100% водяных знаков популярных систем (например, Google SynthID), делая маркировку ненадежной и непригодной для борьбы с подделками. Эти результаты стали убедительным доводом о невозможности использовать водяные знаки как механизм защиты и […]
Генеративный искусственный интеллект открыл новую эру цифровых рисков, предоставив киберпреступникам беспрецедентные возможности для мошенничества и создания адаптивного вредоносного ПО. Об этом сообщили эксперты Trend Micro в обзоре злоупотреблений генеративным ИИ за 2025 год. В исследовании показано, что технологии создания видео и омнимодальные модели стали мощным орудием в руках злоумышленников, представляя серьезную угрозу для бизнеса и частных лиц. «Киберпреступники теперь имеют […]
