Обсуждение сосредоточено на рисках использования LLM в юридической сфере: уязвимость к галлюцинациям, нарушения конфиденциальности, отсутствие прозрачности моделей и неясность юрисдикционной применимости. При этом отмечается потенциал для автоматизации рутинных задач, но не для принятия решений, влияющих на права и свободы. LLM могут эффективно справляться с рутинными юридическими задачами, такими как ревизия стандартных договоров или составление простых завещаний, освобождая юристов от механической работы, но не заменяя их в критически важных решениях. Спор: Некоторые пользователи отмечают, что LLM могут снизить стоимость юридических услуг и сократить перегрузку судов, особенно в странах с большими задержками, в то время как другие считают, что доверять ИИ в юридических вопросах опасно из-за риска галлюцинаций и нарушения прав клиента. Спор: Одни участники выражают обеспокоенность тем, что Z.ai и подобные сервисы могут передавать конфиденциальные данные в Китай, где нет экстрадиционных договоров с США и ЕС, в то время как другие не обсуждают этот аспект, сосредотачиваясь на технических ограничениях моделей. Все согласны, что LLM не должны использоваться без человеческого контроля, особенно в делах, влияющих на здоровье, финансы или права, и что юристы обязаны раскрывать использование ИИ клиентам. Бенчмарки, такие как Harvey, подвергаются критике за возможное загрязнение обучающих данных и отсутствие динамического тестирования, что ставит под сомнение их достоверность и репрезентативность. Галлюцинации LLM — реальная угроза: подмена прецедентов, вымышленные законы и ошибки в интерпретации могут привести к серьёзным юридическим последствиям, если не выявлены юристом на этапе проверки. Юридические системы различаются по странам, и модели, обученные на данных США и Великобритании, могут некорректно применяться в других юрисдикциях, включая ЕС, Индию или Китай, где правовые традиции и источники права отличаются. Отсутствие открытых весов моделей, таких как GLM-Legal, вызывает недоверие: пользователи не могут проверить, как обучалась модель, и опасаются, что данные клиентов могут быть использованы в целях, не связанных с юридической практикой. Юристы, использующие LLM, рискуют нарушить адвокатскую тайну, если передают конфиденциальные данные сторонним сервисам, и не имеют гарантий, что эти данные не будут раскрыты по subpoena или в результате утечки. Существует мнение, что LLM могут изменить структуру юридической профессии, снизив спрос на младших юристов и паралегалов, но укрепив позиции старших юристов, которые будут контролировать и подписывать работу ИИ. Технические ограничения LLM — низкая точность на бенчмарках (менее 20%), неспособность обрабатывать противоречивые доказательства и отсутствие логического вывода — делают их непригодными для сложных юридических задач, требующих анализа и творческого мышления. Использование LLM в юридической сфере требует новых правовых норм: обязательное раскрытие применения ИИ, ответственность за галлюцинации и стандарты безопасности данных, которые пока не разработаны. Пользователи отмечают, что LLM не способны давать юридические выводы, противоречащие политическим установкам, например, в Китае, где модель не может выдать решение, противоречащее позиции партии или государства. Существует критика, что LLM-инструменты в юриспруденции — это маркетинговая уловка, основанная на гиперболизированных демонстрациях, а не на реальных достижениях, особенно при отсутствии сравнения с передовыми моделями вроде GPT-6 или Claude 3.5.