← Блог · 14 сентября 2026 г.

88% ответов ИИ в юриспруденции — фейк: урок бизнесу

Апелляционный суд рассматривал дело об убийстве, когда защита представила показания свидетелей, которых суд не смог найти ни в одном протоколе, ни в одной стенограмме. Оказалось, что адвокат использовал генеративную нейросеть для подготовки апелляционной жалобы, и модель «сочинила» несуществующих свидетелей вместе с их показаниями. Юрист получил дисциплинарные санкции, а дело стало ещё одним пунктом в растущем списке судебных разбирательств, где искусственный интеллект подменил реальные факты вымышленными. Для бизнеса — и особенно для компаний, использующих ИИ для бизнеса в юридической и документационной работе, — это не курьёз из зарубежной практики, а тревожный сигнал о цене бесконтрольного внедрения нейросетей.

Что случилось: как ИИ выдумал свидетелей по делу об убийстве?

Адвокат при подготовке апелляционной жалобы по делу об убийстве использовал генеративную нейросеть для формирования аргументации и якобы обнаружил новых свидетелей, чьи показания могли повлиять на исход дела. Проверка суда показала: ни свидетелей, ни их показаний не существовало — модель сгенерировала правдоподобный, но полностью вымышленный текст. Итог — дисциплинарное взыскание для юриста и репутационный удар по всей команде защиты.

Похожая история произошла ещё в 2023 году в США: в деле Mata v. Avianca юристы представили в суд ссылки на судебные прецеденты, которые ChatGPT попросту придумал. Судья федерального суда Южного округа Нью-Йорка Кевин Кастель в своём постановлении отметил, что суд оказался в «беспрецедентной ситуации», когда представленные ссылки на дела оказались фиктивными Reuters. Юристы были оштрафованы на 5000 долларов и получили публичный выговор.

Почему языковые модели «галлюцинируют» юридические факты?

Галлюцинация ИИ — это генерация модели информации, которая выглядит достоверно и логично оформлена, но не соответствует реальным фактам, документам или источникам. В юридической сфере это особенно опасно: модель обучена предсказывать наиболее вероятное продолжение текста, а не проверять фактическую точность цитируемых дел, статей закона или показаний.

Языковые модели общего назначения не имеют встроенного доступа к актуальным базам судебной практики и не «знают», где заканчивается реальный факт и начинается статистически правдоподобная выдумка. Именно поэтому исследователи Stanford выявили: при ответах на специфические юридические запросы модели ошибаются в диапазоне от 58% (GPT-4) до 88% (Llama 2) случаев Stanford HAI. Это не проблема «плохой» модели — это фундаментальное ограничение архитектуры general-purpose LLM без вертикальной настройки и без проверки фактов человеком.

"Мы обнаружили, что юридические галлюцинации широко распространены и вызывают серьёзную тревогу — они возникают как у общих чат-ботов, так и у специализированных юридических инструментов на основе ИИ."— Дэниел Хо, профессор права, Stanford University, Stanford HAI

Сколько случаев ИИ-фейков зафиксировано в судах мира?

С момента первого громкого дела Mata v. Avianca в 2023 году исследователь Дэмиен Шарлотэн ведёт открытый трекер судебных случаев, где ИИ сгенерировал фиктивные ссылки, прецеденты, цитаты или, как в описанном деле об убийстве, целых свидетелей. На момент последних обновлений трекер фиксирует десятки подтверждённых кейсов на нескольких континентах — от США и Великобритании до Австралии и Канады трекер Damien Charlotin.

"Что меняется — не то, что модели ошибаются, а то, что число юристов, не проверяющих результат перед подачей в суд, продолжает расти вместе с ростом использования генеративного ИИ в юридической практике."— Дэмиен Шарлотэн, исследователь права и данных, AI Hallucination Cases Database

Что грозит юристу и компании за использование фейковых ИИ-данных в суде?

Санкции варьируются от денежных штрафов и публичного выговора до дисквалификации адвоката и пересмотра всего дела, что напрямую бьёт по репутации компании-заказчика юридических услуг. В деле об апелляции по убийству дисциплинарное взыскание получил конкретный юрист, но пострадала и вся защитная стратегия — апелляция была поставлена под сомнение из-за недостоверных доказательств.

Для бизнеса риск не ограничивается судебными делами. Те же архитектурные ограничения моделей проявляются при составлении договоров, проверке контрагентов, подготовке юридических заключений для сделок M&A или due diligence. Если компания использует общедоступный чат-бот без контроля юриста, она рискует подписать контракт со ссылкой на несуществующую норму закона или пропустить реальный юридический риск, который модель «сгладила» правдоподобным, но неверным ответом.

Как безопасно внедрить ИИ в юридическую работу компании: 7 шагов

Безопасное внедрение ИИ в юридические процессы требует не отказа от технологии, а выстраивания контура проверки, где каждый вывод модели подтверждается источником и человеком. Ниже — практическая последовательность действий для малого и среднего бизнеса.

1. Определите, какие юридические задачи можно делегировать ИИ (первичный анализ договора, поиск рисков), а какие требуют обязательного участия юриста (финальное решение, судебные документы).
2. Используйте модели, работающие на ваших собственных ключах API и в вашем облаке — так данные и результаты остаются под контролем компании, а не утекают на сторонние серверы.
3. Настройте промпты и базу знаний так, чтобы модель отвечала только на основе загруженных реальных документов, а не «додумывала» факты из общих знаний.
4. Введите обязательное правило: каждая цифра, цитата закона или ссылка на прецедент, сгенерированная ИИ, проверяется по первоисточнику перед использованием.
5. Проведите пилот на низкорисковых задачах (например, анализ типовых договоров поставки) перед масштабированием на судебные документы.
6. Обучите сотрудников распознавать признаки галлюцинации: слишком «гладкие» формулировки, отсутствие точных номеров дел, невозможность найти источник в открытом доступе.
7. Зафиксируйте регламент ответственности — кто в компании подписывает финальный документ и несёт юридическую ответственность за его содержание.

Для российских компаний эта логика особенно важна: AI-Юрист — договоры, риски, контрагенты в составе нейросотрудников клуба изначально настроен на работу с реальными базами данных контрагентов и текстами договоров клиента, а не на свободную генерацию юридических фактов из общих знаний модели.

Комментарий эксперта: что это значит для российского бизнеса?

Сергей Семёнов, ESSG Club — бизнес-сообщество по внедрению AI: «Случай с фейковыми свидетелями — крайняя точка проблемы, которая в мягкой форме встречается в десятках российских компаний уже сейчас. К нам приходят предприниматели, которые пробовали дать ChatGPT задачу проверить договор поставки или найти риски в контракте с новым контрагентом — и получали уверенно сформулированный, но фактически неверный ответ. Разница между их подходом и нашим — в источнике данных: если модель работает без привязки к реальному реестру контрагентов и актуальному законодательству, она неизбежно начинает «додумывать».

В нашей практике был кейс с клиентом из сферы оптовой торговли строительными материалами: до внедрения AI-Юриста юрист компании тратил в среднем 40 минут на первичную проверку одного договора поставки, а часть рисков — например, признаки фирмы-однодневки у контрагента — пропускалась из-за нагрузки. После настройки нейросотрудника на закрытом контуре с доступом к реестрам ФНС и базе типовых рисков время проверки сократилось до 8 минут на договор, а число выявленных проблемных пунктов выросло на 35% за первый квартал использования. Ключевое отличие от истории с фейковыми свидетелями — модель у клиента не имеет права «фантазировать»: она либо находит подтверждение в загруженных источниках, либо прямо сообщает, что информация отсутствует.

Практический вывод для руководителя простой: внедрение ИИ в юридическую и документационную работу без контура проверки — это не экономия времени, а перенос риска с исполнителя на всю компанию. Прежде чем разрешать сотрудникам использовать нейросети для договоров, протоколов или подготовки судебных документов, зафиксируйте письменный регламент проверки фактов и выберите инструмент, который работает на ваших данных, а не на «общих знаниях» модели из интернета».

Что делать российскому бизнесу: рекомендации ESSG Club

Российским компаниям стоит внедрять ИИ для бизнеса поэтапно, начиная с низкорисковых юридических и документационных задач и постепенно расширяя контур применения по мере накопления практики проверки. Это касается не только договоров, но и протоколов встреч, аналитики звонков отдела продаж и других процессов, где ошибка модели может дорого стоить компании.

Именно поэтому в закрытом сообществе подход клуба строится на разборах, еженедельном радаре новостей и библиотеке готовых решений — участники не изучают теорию ИИ в вакууме, а разбирают реальные кейсы внедрения, включая ошибки других компаний, прежде чем повторить их у себя. Это особенно важно на фоне того, что рынок нейросетей меняется быстрее, чем успевают формироваться нормы правовой ответственности за их использование.

Если ваша компания планирует внедрять нейросотрудников в юридическую, продажную или документационную работу, разумнее сделать это через проверенный контур с готовыми настройками, чем полагаться на «сырой» чат-бот. Ознакомиться с условиями и вступить в ESSG Club можно на странице тарифов — там же доступны все 11 готовых нейросотрудников платформы, включая AI-Юриста и Протоколиуса.

Какие отрасли в России наиболее подвержены риску юридических ИИ-ошибок?

Наибольший риск несут отрасли с высокой договорной нагрузкой и частой сменой контрагентов: оптовая торговля, строительство, логистика и HR-агентства, где сотрудники ежедневно работают с типовыми, но юридически значимыми документами. В этих сферах соблазн ускорить работу с помощью бесплатного чат-бота особенно высок, а последствия ошибки — особенно дороги, вплоть до потери денег на сделке с недобросовестным контрагентом.

По данным McKinsey, 72% компаний в мире уже применяют искусственный интеллект хотя бы в одной функции McKinsey State of AI 2024, и юридическая функция входит в число быстрорастущих направлений внедрения. Это означает, что риск столкнуться с галлюцинациями будет только расти вместе с масштабом применения — если компании не выстроят контур проверки заранее.

FAQ

Сколько стоит внедрение ИИ-юриста для проверки договоров в компании?

Стоимость зависит от объёма документооборота и глубины настройки: от точечного использования готового нейросотрудника в составе клубной подписки до индивидуальной интеграции с реестрами контрагентов. Базовый доступ к AI-Юристу входит в подписку ESSG Club без отдельной оплаты разработки.

За какой срок окупается внедрение ИИ в юридические процессы?

По опыту клиентов клуба, при сокращении времени проверки договора с 30-40 минут до 5-10 минут окупаемость наступает в первые 2-3 месяца использования за счёт экономии рабочего времени юриста и снижения числа пропущенных рисков.

Можно ли доверять ИИ подготовку документов для суда?

Нет, без обязательной человеческой проверки каждого факта, цитаты и ссылки на источник — как показывает практика, даже топовые модели ошибаются в юридических запросах в 58-88% случаев в зависимости от модели и типа запроса.

С чего начать внедрение ИИ в юридическую работу малого бизнеса?

Начните с одной низкорисковой задачи — например, первичного анализа типового договора на признаки риска — и обязательно на закрытом контуре данных компании, а не в публичном чат-боте с доступом к интернету.

Как понять, что ответ ИИ содержит галлюцинацию?

Проверяйте каждую конкретную ссылку на закон, судебное дело или факт по первоисточнику; отсутствие возможности найти точное подтверждение — главный признак того, что модель сгенерировала недостоверную информацию.

#ВнедрениеИИ #ИИдляБизнеса #ИИЮрист #НейросетиДляБизнеса #ESSGClub