Цифровой Интеллект

Организация экономического сотрудничества и развития (ОЭСР) в апреле 2024 года в отчёте AI in Justice Administration and Access to Justic зафиксировала расширение применения автоматизированных систем в судах нескольких стран и указала на недостатки механизмов проверки алгоритмов. В документе указано, что ИИ используется для предварительной сортировки дел, прогнозирования нагрузки судов и подготовки материалов для судей, однако отсутствуют единые стандарты аудита и прозрачности, которые позволяли бы контролировать корректность алгоритмических выводов. ОЭСР подчёркивает, что внедрение технологий опережает разработку правовых и процессуальных норм, что создаёт системные риски при использовании ИИ в правоприменении.

В отчёте OECD указано, что в ряде стран ИИ-модули применяются для классификации обращений и оценки сроков рассмотрения дел, а также для определения приоритетов в распределении нагрузки между судьями. При этом большинство таких моделей построено на закрытых алгоритмах, что делает невозможным независимую проверку критериев классификации. В работе Judicial Requirements for Generative AI in Legal Reasoning ¹ (arXiv, январь 2025) отмечается, что генеративные модели, задействованные в пилотных проектах ²,не обеспечивают воспроизводимую правовую аргументацию и могут формировать некорректные связи между прецедентами ³ и нормативными актами. Авторы исследования, Angel Mary John, Aiswarya M. U., Jerrin Thomas Panachakel, фиксируют случаи, когда одинаковые входные данные давали разные рекомендации, что делает невозможным использование таких алгоритмов без дополнительного контроля со стороны судей и аналитиков. Такой уровень непрозрачности увеличивает риск того, что решения, опирающиеся на рекомендации ИИ, могут быть труднопроверяемыми и потенциально ошибочными.

В исследовании Springer A Fairness-Focused Approach to Recidivism Prediction ⁴ представлен анализ моделей прогнозирования рецидива с использованием исторических данных. Авторы, Michael Mayowa Farayola, Irina Tal, Takfarinas Saber, Regina Connolly & Malika Bendechache, фиксируют, что модели сохраняют дисбаланс при распределении оценок риска между социальными и демографическими группами даже после внедрения корректирующих алгоритмов. При одинаковых характеристиках обвиняемых система может формировать разные уровни риска в зависимости от принадлежности к группе, на которой обучалась модель. Эти наблюдения подтверждаются результатами исследования Why Judges Don’t Rely on AI Risk Assessment Tools ⁵(arXiv, март 2024), где судьи указывали, что рекомендации ИИ невозможно использовать в мотивировочной части ⁶ решений из-за отсутствия прозрачных и проверяемых критериев формирования оценок. Недостаточная связность объяснений алгоритмов делает невозможным полное воспроизведение логики вывода, что снижает возможность процессуального контроля.

«Автоматизированные системы в судебной практике требуют аудита на уровне, сопоставимом с экспертными заключениями, чтобы результаты могли быть проверены и воспроизведены», —  Нонна Волосова, исследование Перспективы, опасности и риски использования ИИ при осуществлении судопроизводства, 2024.

Дополнительно, в обзоре A rapid evidence review of evaluation techniques for large language models in legal use cases ⁷ (2025) отмечается, что LLM‑модели ⁸ , которые используются для автоматизированного составления юридических документов, анализа и суммаризации материалов, подвержены проблемам. Они бывают склонны к «галлюцинациям», демонстрируют непрозрачность логики выводов и могут допускать фактические или логические ошибки при работе с правовыми текстами.

Использование ИИ в судебной сфере расширяется, но отсутствуют стандартные механизмы проверки и прозрачности алгоритмов. Это создает системные риски: невозможность независимой проверки, ошибки в рекомендациях и неспособность обеспечить воспроизводимость решений. В результате возникают угрозы снижения объективности и повышения ошибок в правоприменении.

Дарья Маркина

Любитель космоса и битвы экстрасенсов. Что из этого более запутанное? Скорее — белизна зубов Александра Шепса.

1. *Открывается только с VPN
2. Пилотный проект — это ограниченная по масштабу и времени реализация идеи или инициативы с целью проверки её жизнеспособности перед внедрением на более широком уровне.
3. Прецедент (от лат. praecedens — «предшествующий») — случай или событие, имевшее место в прошлом и служащее примером или основанием для последующих действий в настоящем.
4. *Открывается только с VPN
5. *Открывается только с VPN
6. В мотивировочной части судебного решения описываются конкретные события имевшие место быть, и делаются выводы относительно этих событий, подводя их под определенные нормы закона.
7. *Открывается только с VPN
8. LLM (Large Language Models, большие языковые модели) — это тип программы искусственного интеллекта, которая может распознавать и генерировать текст. Обучены на огромных наборах данных: текстах, статьях на сайтах, книгах.