Зампред Совета безопасности Дмитрий Медведев предложил запретить некоторые формы искусственного интеллекта (ИИ). Для этого необходимо определить позицию по этическим вопросам в области применения ИИ и проработать вопрос контроля за разработками. При этом Медведев отметил, что нельзя «перегнуть палку», запретив перспективные технологии, важные с точки зрения будущего России.
Дискуссия об искусственном интеллекте заметно оживилась в последние полгода-год, причем не только в России. В декабре прошлого года президент Путин, выступая на международной онлайн-конференции Artificial Intelligence Journey, заявил, что искусственный интеллект – залог технологического рывка для всего человечества. Технологии и цифровизация были одной из главных тем на Петербургском международном экономическом форуме, они же вскоре будут обсуждаться на встрече «Большой семерки» в британском Корнуолле.
В конце мая дискуссию о пределах распространения ИИ взорвала новость о том, что военный дрон впервые убил человека. В применении дронов на войне уже нет ничего необычного, но исключительность данного случая состоит в том, что решение об убийстве принималось самим дроном. Эпизод произошел еще в марте 2020 года, но известно об этом стало только сейчас, благодаря исследованию ООН, на которое ссылается журнал New Scientist.
Пандемия коронавируса стимулировала спрос на технологии, непосредственно вторгающиеся в жизнь человека – распознавание лиц, дистанционное считывание параметров функционирования человеческого тела и т. п. Контроль над только зарождающейся индустрией содержит в себе очевидное противоречие: этические ограничения против конкурентных преимуществ. Этические нормы должны лечь в основу законов, ограничивающих разработку и применение отдельных форм ИИ. Но и слишком строгие законы, а также законы, предполагающие слишком широкое трактование, могут поставить крест на перспективных разработках.
Первой к регулированию ИИ подступилась Европа. В конце апреля текущего года Еврокомиссия вынесла на обсуждение правила, которые должны лечь в основу законодательного регулирования ИИ. Речь идет о риск-ориентированном подходе, имеющем четыре градации: неприемлемый риск, высокий, ограниченный, минимальный. Интересно, что высокий риск присвоен таким сферам, как кредитный скоринг, автоматизированная оценка тестов в сфере образования, программное обеспечение для найма сотрудников, роботизированная хирургия, а также использование алгоритмов ИИ в сферах юриспруденции и охране правопорядка. А ведь это именно те сферы, в которых ИИ сейчас развивается ускоренными темпами.
Кроме того, Еврокомиссия предложила запретить использовать распознавание лиц в общественных местах, за исключением особых случаев – как, например, поиск преступников, пропавших детей или предотвращение терактов.
В Москве, например, распознавание лиц во время пандемии стало тотальным. Подключенные к общей системе камеры установлены не только на улицах и в транспорте, но и в подъездах и даже лифтах жилых домов. Иными словами, технология уже существует и широко распространена. Ограничение ее использования назрело, но здесь возникает вопрос о ее окупаемости. Допустима ли коммерческая составляющая в реализации дорогостоящих проектов идентификации личности? Большой вопрос.
- Первые боевые роботы получат крылья
- Россия и США переходят важнейший рубеж в разработке военных роботов
- Новому большому брату не нужна твоя личность
Сложно предсказать, каким путем двинется Россия в регулировании ИИ. Вероятно, первые шишки на этом пути набьет не наша страна, а именно Европа. Но чем чаще общество будет сталкиваться с негативными проявлениями ИИ (привет штрафам за несоблюдение самоизоляции), тем выше будет запрос на регулирование. Убийство дроном человека – предельный вариант недопустимого. Однако же существуют и более тонкие сферы. Например, где находятся пределы автоматизации, которые лишают человека работы? Ответ на этот важнейший вопрос является одним из стержневых элементов образа будущего России и всего мира.
Очевидный ответ – замена человека машиной на рутинных процессах – перестает быть очевидным, поскольку влечет за собой перенастройку образования. Если промышленная революция сформировала спрос на массовое базовое образование, то автоматизация и искусственный интеллект потребуют от человека совершено иных знаний и навыков, которые позволят ему быть и чувствовать себя занятым и нужным. Или их полного отсутствия. Зачем учиться и делать карьеру, если все за тебя делают машины?
Альтернатива – уход значительной части людей в виртуальный мир, при помощи того же ИИ и технологий дополненной реальности. Что, конечно, недопустимо. Это как раз та сфера, где должны быть проложены «красные линии».
Искусственный интеллект, таким образом, может быть инструментом конкуренции людей, корпораций и целых стран. Но не должен становиться инструментом еще большего расслоения общества – причем расслоения не только по объему доступных благ, но и качества жизни в самом широком смысле этого слова. В этом, пожалуй, главный критерий, которым должны руководствоваться регуляторы ИИ в новом дивном мире.
