Прецедент или галлюцинация

Галлюцинации пошли по миру

Крупнейшая база ИИ-галлюцинаций в судебных процессах собрана аналитиком и исследователем из Высшей коммерческой школы Парижа Дамьеном Шарлотеном. По состоянию на 5 июля она включала 1725 дел, в которых участники тяжб из Австралии, Бразилии, Великобритании, США, Франции, России и других стран допустили 5169 некорректных ссылок из-за использования ИИ. В частности, это были выдуманные кейсы и нормы права, искаженные или сочиненные цитаты из судебной практики. Иногда стороны обосновывали свою позицию через научную литературу, которой никогда не существовало. Проблема в том, что пользователи зачастую не перепроверяют результаты генерации ИИ-сервисов, и поэтому суды теперь вынуждены тщательнее исследовать аргументы.

Число судебных дел с галлюцинациями ИИ растет год за годом.

Если в 2023 году в базе было лишь 16 дел, то в 2024-м — уже 59, а в 2025-м их количество возросло до 827 дел. И похоже, что 2026-й покажет новый рекорд: только за первое полугодие накопилось уже 814 дел. Аналитика показывает, что чаще всего ошибаются обычные граждане, которые представляют себя в суде без помощи профессионалов (1014 инцидентов). Но и юристы, защищающие интересы сторон, не слишком от них отстают — 673 случая с галлюцинациями ИИ. Приводят ссылки на выдуманную информацию и сами судьи (около 20 дел), уличены в некорректных упоминаниях судебные эксперты и прокуроры.

Не обходится без наказаний. В базе ученого насчитывается 298 денежных взысканий за ссылки на ИИ-галлюцинации. По подсчетам “Ъ”, общая сумма штрафов с указанием валюты превышает $1,6 млн, если привести ее в долларовом эквиваленте. При этом из статистики следует, что суды благосклоннее относятся к обычным гражданам, активнее штрафуя профессиональных участников процесса. В разговоре с “Ъ” Дамьен Шарлотен объяснил, что подходы государств различаются: «Израильские судьи, как правило, склонны назначать штрафы в силу сложившегося правила, однако суммы при этом невелики. В США штрафы встречаются реже, но могут включать в себя судебные издержки, а потому достигать весьма значительных сумм». Но в целом «большинство санкций — это просто предупреждения, по крайней мере на данный момент», уточнил он.

В большинстве кейсов сгаллюцинировавшая ИИ-модель не раскрывается. Среди дел, где нейросеть названа, лидером является ChatGPT (115 случаев). Гораздо реже упоминаются Claude, Grok, Perplexity, Microsoft Copilot и специализированные решения для юристов вроде Westlaw CoCounsel. Впрочем, это не говорит напрямую о том, что одни алгоритмы хуже или лучше других, ведь популярность у всех сервисов разная.

От теории к практике

В комментарии для “Ъ” французский исследователь обратил внимание на два наиболее примечательных кейса из базы галлюцинаций. В первом из них 13 марта 2026 года Апелляционный суд шестого округа США оштрафовал двух адвокатов, на $15 тыс. каждого, за упоминание в жалобе несуществующих прецедентов. В решении говорилось, что юрист обязан проверять каждую ссылку в своем документе, независимо от того, использовал он ИИ или нет.

Попытка убедить суд в правильности своей позиции через фальшивые мнения является злоупотреблением, а цитирование ложных выводов с упоминанием имени настоящих судей вредит репутации судебной системы, отмечалось в документе.

Ссылки на несуществующие дела, по мнению судьи, создают дополнительное бремя для суда и, как следствие, налогоплательщиков, поэтому виновных адвокатов необходимо штрафовать в счет возмещения затраченного времени на перепроверку всех упомянутых актов. Дополнительно в решении подчеркивалось, что «судебная система работает лишь тогда, когда и адвокаты, и суды могут полагаться на заявления друг друга».

В другом деле, рассмотренном в феврале, снова фигурировали два профессиональных представителя из США. Одна из них, адвокат Мэри Скотт, пыталась защититься от штрафа, заявляя, что не знала о рисках галлюцинаций. Но Федеральный окружной суд Южного округа Огайо этот аргумент отклонил. По мнению судьи, каждый практикующий юрист должен знать, что использование нейросетей может привести к подаче документа, содержащего ИИ-галлюцинации. Если адвокат не перепроверяет ссылки, то и суду, и противной стороне по спору приходится тратить время и деньги на разоблачение обмана, в итоге «это способствует росту цинизма по отношению к юридической профессии и судебной системе», резюмируется в решении.

Российские нейрореалии

Россия тоже не остается в стороне, но пока что публично известно об одном случае наказания за ссылки на фейковые дела и судебные акты. В мае Арбитражный суд Западно-Сибирского округа оштрафовал ООО ЦСС на 50 тыс. руб. Приведенная компанией в жалобе судебная практика либо не существовала и цитаты из решений были выдуманы, либо указанные дела касались совершенно других вопросов. Представитель ЦСС признал ошибку, пояснив, что юристы при подготовке жалобы использовали ИИ, который и сделал ссылки на фейковые документы. Но это не спасло от штрафа. Судья увидел в таком поведении «прямой обман» и «грубейшее проявление неуважения к правосудию», которое «не может иметь никаких оправданий».

Из международной практики с участием российских компаний можно привести дело банка ВТБ против казахстанских акционеров «Печоранефтегаза» в суде Дубайского международного финансового центра. Ответчиков, которые не раскрыли информацию о своих активах, оштрафовали на $150–250 тыс. за неуважение к суду, а помимо этого уличили в использовании ИИ, так как в их возражениях имелись ссылки на несуществующие прецеденты (см. “Ъ” от 4 мая).

Наблюдения экспертов показывают, что масштаб проблемы куда шире.

По словам старшего советника Denuo профессора СПбГУ Владислава Архипова, знакомые ему судьи, особенно мировые, постоянно сталкиваются с потоком «нейрослопа» — низкокачественных и поверхностных документов, составленных с минимальным участием человека. Суды признаются, что надежных способов доказать использование нейросетей у них нет, поэтому им приходится изучать весь этот массив по существу.

Заместитель гендиректора «ПравоТех» Кирилл Кондратенко объясняет, что ИИ-галлюцинации в правовой аргументации — это лишь один из примеров. По его словам, сейчас самые массовые споры разворачиваются вокруг сгенерированных нейросетью доказательств, например аудиозаписей. Причем выявить такую подделку технически сложно. Показателен пример из тяжбы, рассмотренной Евпаторийским горсудом, где фоноскопическая экспертиза не смогла ответить на вопрос о наличии в записи признаков ИИ-фальсификации, сославшись на «отсутствие апробированных и утвержденных методик исследования».

Выйти из полноэкранного режима

Развернуть на весь экран

Более серьезная проблема возникает, когда к нейросетям обращаются не участники спора, а сами судьи. По словам партнера юрфирмы «Рунетлекс» Павла Мищенко, в юридическом сообществе высказываются подозрения о том, что выдуманная нейросетями практика уже несколько раз перекочевывала в тексты судебных решений. А иногда речь идет не просто о поиске практики, но и о генерации самих судебных актов.

Член Общественной палаты РФ, декан факультета права НИУ ВШЭ Вадим Виноградов вспоминает дело бывшего полицейского в Ейском горсуде. Адвокат осужденного заподозрил, что приговор был написан с помощью ИИ, и обжаловал его, приложив заключение лингвиста. Однако апелляционная коллегия краевого суда отклонила этот довод, посчитав, что акт «изложен в ясных и понятных выражениях», а стилистика умозаключений «не влияет на законность принятого решения и не противоречит нормам Уголовно-процессуального кодекса РФ» (см. “Ъ” от 14 октября 2025 года).

Эта история еще не окончена. Как рассказывает господин Виноградов, сейчас один из адвокатов готовит запрос в Конституционный суд РФ, его цель — на высшем уровне прояснить допустимые границы использования ИИ в отправлении правосудия.

Понять или простить

Мнения юристов о том, стоит ли штрафовать участников судебного процесса за ссылки на ИИ-галлюцинации, расходятся. Вице-президент гильдии российских адвокатов, советник Федеральной палаты адвокатов (ФПА) РФ Елена Авакян оценивает наказание в деле ЦСС негативно. Она объясняет это тем, что в России отсутствует «профессиональный процесс» во всех видах судопроизводства, кроме уголовного и конституционного, а значит, и отсутствует обязанность всестороннего знания правовых норм. Госпожа Авакян считает, что за «неаккуратное отношение» к достоверности ссылок на прецеденты нельзя наказывать — точно так же, как не наказывают за ошибочное толкование правовых норм. Но в целом этика использования ИИ в правосудии и адвокатской деятельности требует возложения ответственности за галлюцинации ИИ на человека его использующего, признает она.

Выйти из полноэкранного режима

Развернуть на весь экран

Профессор кафедры информационного права и цифровых технологий МГЮА Алексей Ефремов, напротив, согласен с наложением судебного штрафа в кейсе ЦСС. По его мнению, сгенерированный текст со ссылками на несуществующую судебную практику фактически является фальсифицированным, а это — проявление неуважения к суду. Той же позиции придерживается Владислав Архипов: «Суд вынужден перепроверять то, что стороны по умолчанию должны делать добросовестно. По сути, авторы таких документов поступают так же, как студент, который приносит преподавателю текст от ИИ».

Вадим Виноградов призывает не забывать и о скрытых негативных последствиях использования подобных сведений. Если в документе появляется ссылка на несуществующее дело, она может попасть в решение суда, а затем — в справочно-правовые базы. Впоследствии суды начнут опираться на этот вымышленный кейс при разрешении аналогичных споров, из-за чего ошибка будет воспроизводиться. То есть даже единичное включение в судебный акт сгенерированных ИИ материалов способно серьезно исказить судебную практику, указывает господин Виноградов.

Игра без правил

В России профессиональное сообщество пока не выработало четких этических стандартов, которые бы регулировали работу юристов с ИИ, признают эксперты. Елена Авакян рассказывает, что сейчас этот вопрос под ее руководством активно прорабатывают сразу на двух площадках — в профильной рабочей группе Альянса в сфере ИИ и в рабочей группе ФПА РФ по этике использования ИИ в адвокатской деятельности. В этом смысле перед юридическим сообществом встает новая задача — разработать четкие правовые и этические основы применения ИИ, сформулировать требования к его использованию и определить границы ответственности, признает Вадим Виноградов.

Интересуется вопросом и Верховный суд РФ (ВС).

Так, в июне на встрече с белорусскими коллегами в Минске председатель ВС Игорь Краснов рассказал о том, что российские суды в десяти регионах в пилотном режиме уже тестируют ИИ-ассистентов. Это отечественные программы, которые, по его словам, позволят освободить секретарей от необходимости часами расшифровывать аудиозаписи заседаний, а судьям дадут возможность оперативно анализировать материалы дел и проверять тексты судебных актов в том числе на соответствие правовым позициям ВС.

Что касается использования нейросетей при подготовке к судебному процессу, в постановлении от 21 мая 2026 года пленум ВС обязал участников тяжб «предоставлять в суд сведения о фактах, полученных с использованием технологий ИИ». Также Игорь Краснов в конце мая дал поручение обобщить судебную практику по делам, связанным с ИИ. «Это в значительной мере определит положение ИИ-доводов в процессе. Но система ответственности не меняется: добросовестность участника процесса, проверка источников и уважение к суду остаются базовыми требованиями, которые существовали до ИИ и сохранятся после»,— считает Кирилл Кондратенко.

Выйти из полноэкранного режима

Развернуть на весь экран

Уже сейчас, осознавая проблему, российские юристы прибегают к саморегулированию через локальные нормативные акты внутри компаний. По наблюдениям господина Кондратенко, здесь лидируют инхаусы крупных корпораций — они встроены в общую IТ-инфраструктуру бизнеса, поэтому ИИ-инструменты приходят к ним вместе с готовыми политиками использования. У юрфирм подобных регламентов пока меньше, и проработаны они слабее, хотя тренд должен поменяться, надеется эксперт. Павел Мищенко считает, что важный фактор — это обучение сотрудников и обмен опытом: «Только развитие корректной культуры использования дает положительный эффект».

Причем для зрелой практики применения ИИ мало одного регулирования — нужны качественные специализированные продукты, полагает Кирилл Кондратенко.

По его мнению, модель общего назначения, которую тренировали на всем подряд, для юридической работы непригодна. Аналогичную мысль высказывает гендиректор ООО «Сбер Лигал» Кирилл Заневский. На его взгляд, ИИ галлюцинирует в том числе из-за некачественных данных для обучения, а чтобы минимизировать риски, необходимо интегрировать нейросети с базами знаний. Именно поэтому корпорации стремятся разрабатывать собственные продукты.

В юридическом департаменте «Яндекса» рассказали, что активно используют собственного «Нейроюриста», а чтобы избежать выдуманных прецедентов, ИИ ограничивают работой с конкретными материалами. Похожий подход применяют в «Сбере» — там развивают правовую платформу GigaLegal, указывает Кирилл Заневский. Свои ИИ-решения, обученные на верифицированных юридических данных, внедряет в продукты и «ПравоТех», добавляет Кирилл Кондратенко.

Между тем эксперты предупреждают, что галлюцинировать способна любая модель. В связи с этим Елена Авакян рекомендует всегда верифицировать выданный нейросетью текст по правилу «двадцать минут на генерацию, три часа на перепроверку». По ее словам, глупых машин не бывает — бывают глупые пользователи, которые нарушают базовые правила работы с ИИ.