Мы часто слышим споры об искусственном интеллекте – он заменит человека, он лишит человека свободы и идентичности, он воплотившееся зло или, наоборот – это порождение технического прогресса, ведущего человека в эпоху свободы и творчества? В обоих случаях ИИ становится некой самостоятельной сущностью. Выражу отличное мнение от обеих позиций. ИИ – это класс программных продуктов, в которых присутствует сложная нелинейная логика. Это всего лишь инструмент, созданный человеком, это «лопата», которая без человека не может ничего, а в руках человека может стать и добром, и злом. Лопатой можно копать, а можно убивать.
Но в чем опасность ИИ? Как ни странно, я вижу опасность ИИ в тотальном насаждении античеловеческой западной практики развития «римского права» (то есть в усилении бюрократизации и обезличивании отношений между людьми), в искоренении еще существующих в незападных странах человеческих практик, подчиненных так называемому обычному праву, то есть правилам личного взаимодействия между людьми. Давайте посмотрим на ИИ под углом права. Права в самом корневом человеческом смысле этого слова: имею право, я прав.
Вспомним пушкинского капитана Копейкина. Он столкнулся с бюрократией, которая действует по инструкции, в соответствии с собственной железной логикой, а не в соответствии с обычным правом. И он проиграл. Как человек он не смог добиться правды. Ему пришлось превратиться в «духа отмщения» – око за око, зуб за зуб. Почему он проиграл, будучи человеком? Потому что он столкнулся с римским правом – с расчеловеченной процедурой, с механизмом, в котором главная цель – бесперебойная логичная работа механизма. Ни человеческая справедливость, ни правда не являются главной целью бюрократии и любых механистичных процедур, в том числе правовых. В любом вынесении решения через процедуру, через механизм мы сталкиваемся с возможностью для человека спрятаться за механизм, за процедуру, за ИИ в конце концов.
Что ж делать? В «обычном праве», которое изложено у разных народов в разных текстах: в «Русской правде», «Второзаконии», «Салической правде», устанавливается принцип справедливости – компенсация за нанесенный ущерб. Око за око, зуб за зуб. То есть ущерб, нанесенный пострадавшему, должен быть нанесен и причинившему ущерб.
Римское право – порождение бюрократического государства, выстроило обезличенный механизм, в котором появляется не компенсация, а наказание – наказывается само нарушение порядка, нарушение правил, установленных государством. В обычном праве нет наказания, есть компенсаторный механизм: выколол глаз – почувствуй сам, как жить без глаза, украл яблоки – почувствуй сам, как жить без суммы, эквивалентной стоимости этих яблок. Здесь есть не наказание тюрьмой или штрафом, а именно восстановление справедливости, восстановление «мирового» баланса – испытать на себе причиненное.
Позднее, в христианской традиции, тюрьма стала осмысляться не как наказание, а как возможность для исправления в изоляции от общества. Но сам принцип римского права тут ни при чем. Римское право – это дитя обезличенной бюрократии. Подчинение западной модели организации общества всегда сопровождается внедрением западного правопорядка, выросшего из римского права, из слепого и бесчеловечного следования установленному порядку – dura lex, sed lex. Это римское выражение можно перевести как «черств закон, но это закон». Не в смысле неотвратимости или строгости наказания, а в том смысле, что римляне осознавали черствость и бесчеловечность бюрократического правопорядка, но считали, что в огромной империи лучше действовать по инструкции, а не искать справедливости.
Одна из ненавистнейших черт человеческих отношений для западного миропорядка – личные связи, личные пристрастия, личный опыт. Это называется коррупцией, конфликтом интересов, личной заинтересованностью. Бюрократические механизмы должны быть максимально обезличены – аукционы, тендеры, камеры, рейтинги. И хотя это сильно вредит делу, но всё равно внедряется до идиотизма страстно.
России, как и многим незападным странам, чужды бесчеловечные бюрократические процедуры. Они не приживаются, искажаются, превращаются в карикатуру западных институтов. Возможно, путь спасения от расчеловечивающего действия правовых бюрократизированных механизмов, частью которых всё больше становятся процедуры, управляемые ИИ, в том, чтобы ввести личную ответственность в среду бюрократии. Личную ответственность по принципу механизма восстановления справедливости в «обычном праве» – нанес ущерб, получил равный ущерб. За каждым алгоритмом ИИ, за каждой бюрократической процедурой должна стоять конкретная личность чиновника, и ущерб, нанесенный последствиями применения этого алгоритма или процедуры, должен симметрично отразиться на личной жизни чиновника.
Ведь в чем сила бюрократии, почему она засасывает и перемалывает личность любого человека? Сила бюрократии в обезличивании. Кто виноват, если штраф за нарушение ПДД, зафиксированный камерами, автоматически спишется со счета невиновного человека? Никто. Да, вы можете доказать в суде свою правоту, потратить силы, время, нервы, а вам вернут только деньги. Кто вернет? «Некто», «Оно» – безличное государство-никто. А если бы ущерб вернул конкретный чиновник, группа чиновников, виновных в несправедливости и неправде, тогда бы скорость улучшения алгоритмов ИИ, бюрократических процедур, инструкций, их нацеленность на справедливость стремилась бы к бесконечности.
А сейчас чиновник спрятался за спину автоматических процедур. Хотя, знаете ли вы, что до сих пор каждое решение о наложении штрафа подписывает конкретное лицо – майор или капитан такой-то и такой-то? Понятно, что не сам лично ручкой десятки тысяч бумажек подписывает, а факсимильная или электронная подпись ставится, понятно, что он ни во что не вникает, что невозможно это при рассмотрении десятков тысяч случаев… Так об этом и речь, что так не должно быть. Выплачивал бы он ущербы от несправедливости из собственного дохода, так и потребовал бы, чтоб дело было организовано справедливо и нацелено на исправление правды.
Предвижу возражения христиан. Где милость к виновным? Неужели мы вернем в правосудие дохристианский принцип: око за око, зуб за зуб? Отвечу так: не надо путать бюрократическое правосудие, порожденное Римской империей, и личную милость, к которой призывал Христос. Возможность личной милости можно и оставить в правосудии: например, пострадавший может простить и не взыскивать личный ущерб с причинившего. Но необходимо убрать возможность уходить от личной ответственности, спрятавшись за искусственный интеллект, за процедуру, инструкцию и тому подобные обезличивающие механизмы.
Такой правопорядок восстановит личные отношения между людьми в свете правды и справедливости. Кстати, тексты и «Русской правды», и «Салической правды» возникли уже в христианские времена и никак христианству не противоречили, зато были нацелены на исправление всяческой неправды и несправедливости. Необходимо правопорядку вернуть личное измерение: я прав или не прав, остальное не важно.