В 1942 году Айзек Азимов придумал законы робототехники, и более полувека они оставались фантастикой. Сейчас юридическое регулирование искусственного интеллекта и, наоборот, использование ИИ в юриспруденции становятся повседневной практикой. Юристы называют эту область робоправом.
Фото: Из личного архива
Фото: Из личного архива
Зачем праву регулировать ИИ
До последнего времени ИИ не был урегулирован ни в России, ни в мире. Законотворчество резко активизировалось в 2017 году, когда нормативно-правовые акты были приняты некоторыми международными организациями (в частности, на уровне Европарламента) и государствами. В основном эти акты фокусировались на робототехнике либо на применении ИИ в конкретной сфере (финансовой, медицинской, судебной). В этой связи заговорили о появлении новой отрасли права.
Россия активно участвует в разработке правовой базы ИИ. Недавно утверждена Национальная стратегия развития ИИ на период до 2030 года (Стратегия). Она вводит несколько основных понятий (включая само определение ИИ) и предусматривает необходимость разработки в ближайшие десять лет ряда связанных с ИИ правовых норм. В основном речь идет о правилах прикладного характера: стимулирование научных исследований и инвестиций в этой сфере, развитие международного сотрудничества и т. п. Кроме того, ИИ входит в национальную программу «Цифровая экономика Российской Федерации», здесь предусмотрены положения примерно такого же рода.
Когда будет робоправо
Право есть инструмент урегулирования общественных отношений. В зависимости от их типа выделяются различающиеся отрасли права. Например, если отношения касаются договоров между гражданами о займе, купле-продаже и т. п.— это гражданское право, если наказаний за мелкие правонарушения — законодательство об административных правонарушениях, если наказаний за преступления — уголовное право и т. д. Появление нового явления или института далеко не всегда влечет появление принципиально новых отношений и потому новой отрасли права. Скорее наоборот: чаще они вписываются в уже существующие (автомобили не привели к появлению «автомобильного права», достаточно существующих гражданского, административного и уголовного). Но объявить о возникновении новой отрасли права желающие находятся почти всегда. Хотя долго такие идеи обычно не живут.
ИИ по своей сути тоже не генерирует каких-то принципиально новых общественных отношений, по крайней мере — пока, и поэтому попытки правового регулирования в этой сфере носят прикладной характер. То есть не появляется какая-то новая отрасль права, но может возникнуть необходимость точечно внести дополнения в уже существующие. Прежде всего, это формулирование определений основных понятий, что отчасти уже сделано в Стратегии. Это отправная точка правового регулирования чего угодно, иначе будет непонятно, к чему это регулирование вообще применять.
Правовые проблемы ИИ
Одной из наиболее острых правовых проблем ИИ считается проблема ответственности: кто отвечает за действия, например, робота или дрона и кто должен возмещать причиненный ими ущерб? На самом деле, изобретать велосипед нет необходимости: это может быть в первую очередь собственник или законный владелец (как сейчас для средств повышенной опасности), в каких-то случаях — лицо, ответственное за безопасность (в школе, больнице и т. п.). Никакого принципиального отличия дрона от, например, собаки в этом смысле не видно.
Другой важной проблемой считается использование ИИ персональных данных (ПД). Дело в том, что обычно ИИ предполагает обработку больших объемов информации, содержащей в том числе ПД. Но и здесь все более или менее ясно, поскольку законодательство о защите ПД уже разработано и активно применяется. Либо эти данные необходимо обезличивать, либо использовать в строго определенных случаях (согласие их субъекта, необходимость для работы суда или следователя и др.). И с этой точки зрения ИИ принципиально не отличается от любой другой области.
Кроме того, если Россия стремится стимулировать развитие ИИ, необходимо предусмотреть механизмы такого стимулирования (льготы, упрощенные разрешительные и регистрационные процедуры и т. д.). Это тоже уже отчасти прописано в Стратегии, осталось конкретизировать. Остальные обсуждаемые вопросы носят либо сугубо технический характер (стандартизация, регистрация…), либо совсем уж фантастический (правосубъектность роботов).
Резюмируя, регулировать ИИ следует, но насущной потребности в создании принципиально новых правовых конструкций и тем более отрасли права появление ИИ пока не создает. Достаточно конкретизировать частные вопросы в рамках существующей правовой системы, а утверждения об обратном выглядят данью «хайпу» вокруг ИИ.
ИИ в судейской мантии
Второй модный аспект темы «ИИ и право»: сможет ли ИИ заменить юристов — судей, адвокатов и т. д., и если да, то в какой мере. Ведь право основано на формализованных правилах, кажется, сам Бог велел передать его применение ИИ.
Исследования и эксперименты в этом направлении ведутся уже почти полвека. Совет Европы уже даже принял Этическую хартию искусственного интеллекта в судебной системе. Наиболее актуальны следующие направления.
Оценка рисков, связанных с физическим или юридическим лицом. Например, какова вероятность, что обвиняемый в торговле наркотиками совершит рецидив (учитывается, судим ли он ранее, дружит ли в соцсетях с себе подобными и т. п.),— это важно для определения наказания; какова вероятность, что юридическое лицо не заплатит по договору и деньги не получится с него взыскать (сколько против него подано исков, возбуждено исполнительных производств, есть ли госконтракты, заложенное имущество…) — это важно при заключении договора с таким контрагентом.
Однако ИИ очень склонен к предрассудкам, переоценке формальных признаков. Применительно к физическим лицам это отметил Совет Европы (например, ИИ переоценивает значимость национальности или имущественного положения обвиняемого). Применительно к юридическим лицам, если, например, у компании десятки судебных споров, где она ответчик, ИИ присвоит ей высокий риск. А ведь это могут быть иски энергоснабжающей организации за недоплату по каждому месяцу, поскольку у компании с ней разногласия относительно применяемого тарифа, тогда как своим поставщикам и подрядчикам компания платит исправно.
Обработка и анализ больших массивов информации. Например, поиск правил, касающихся какого-то конкретного вопроса, в массиве подзаконных правовых или судебных актов.
Здесь ИИ справляется неплохо, хотя до совершенства ему далеко — и вряд ли станет ближе, пока не появятся эффективные системы распознавания речи. Пока что после ИИ приходится долго и вдумчиво пересматривать документы, а в мало-мальски сложных случаях он вообще не находит нужного (хотя релевантные нормы или кейсы существуют).
Автоматизация простых механических задач. Например, автозаполнение форм процессуальных документов: если человек подал иск о взыскании долга, ему с большой вероятностью придется подавать и ходатайство об обеспечении иска, апелляционную жалобу либо отзыв на нее, заявление о выдаче исполнительного листа и т. д. ИИ позволяет сэкономить усилия при подготовке подобных документов.
Идеально это работает только в стандартных ситуациях. Стоит компании сменить наименование или адрес, система может сбоить и за ней надо терпеливо проверять.
Анализ информации для выявления каких-либо обстоятельств. Например, анализ поведения стороны в суде на предмет возможного злоупотребления процессуальными правами; анализ законодательства на предмет пробелов и коллизий; анализ показаний свидетелей на предмет противоречий и несостыковок и т. д.
Здесь ИИ позволяет сократить затраты на первичную обработку информации, более глубокую проверку все равно приходится осуществляясь вручную.
Во всех этих вопросах ИИ значительно экономит время и силы. Он выполняет неблагодарную монотонную работу в сжатые сроки и с минимальными затратами. Но о замене человека пока говорить не приходится: ИИ выдает стандартизированный и формализованный результат. Это заготовка, с которой работать быстрее и проще, чем без нее, но не замена живому юристу. То есть произошел количественный, а не качественный прорыв: вместо десятка стажеров может быть один компьютер — да; вместо юридической фирмы — нет. По крайней мере — пока. Юрлуддиты могут спать спокойно.