На прошлой неделе зампредседателя Совета безопасности России Дмитрий Медведев призвал сформировать позицию России по возможному запрету некоторых форм искусственного интеллекта (ИИ). Необходимо «подготовить рекомендации по моральной стороне использования технологий искусственного интеллекта, потому что этические вопросы пока нигде не решены, они только начинают обсуждаться, а там критических проблем предостаточно», указал замглавы Совбеза. При этом Медведев призвал «не перегнуть палку»: «Запрещать все мы хорошо умеем. Не всегда это эффективно с точки зрения контроля».
Как отмечала в этой связи газета ВЗГЛЯД, дискуссия об искусственном интеллекте заметно оживилась за последний год, причем не только в России. В декабре прошлого года Владимир Путин, выступая на международной онлайн-конференции Artificial Intelligence Journey, заявил, что искусственный интеллект – залог технологического рывка для всего человечества. Тогда же российский лидер сказал: он надеется, что искусственный интеллект не сможет стать главой государства, во всяком случае, пока, так как у него нет сердца, чувства сострадания и совести. Отметим, что этот вопрос президенту задал робот – виртуальный ассистент «Сбера» Афина.
Подобным вопросом задаются и люди. В опубликованном несколько недель назад докладе испанского Центра управления изменениями (Сenter for the Governance of Changes, CGC) «Европейские технические идеи – 2021» содержится неожиданный вывод. В период пандемии, когда в быт людей все больше стала входить компьютерная «удаленка», европейцы стали больше задумываться насчет того, чтобы заменять национальных парламентариев роботами-программами.
Особенно эта идея популярна в Испании (66% всех опрошенных), Италии (59%) и Эстонии (56%). По данным CGC, идея замены парламентариев роботами популярна среди 75% граждан Китая. Граждане Великобритании, Франции, Германии, Нидерландов и Швеции в большинстве своем против замены политиков роботами. С ними солидарны 60% граждан США.
В пользу замены политиков-людей искусственным интеллектом выступает молодое поколение. В Европе – более 60% опрошенных CGC людей в возрасте 25–34 лет и 56% от 34 до 44 лет. Европейцы старше 45 лет в основном скептически относятся к этому проекту, а те, кому больше 55 лет, в большинстве своем категорически против. Те, кто настроен скептически, в частности, объясняют свой выбор тем, что политики-роботы будут иметь доступ к персональным данным своих избирателей, подытоживают авторы исследования – шведский политолог Оскар Йонссон и его испанский коллега Карлос Лука де Тена.
Заметим, что роботы-помощники на государственной службе – уже не совсем фантастика. Так, например, в 2017 году проект бюджета Ленинградской области выучил и передал в законодательное собрание антропоморфный механизм. Губернатор региона Александр Дрозденко опубликовал в своем YouTube-канале диалог с роботом – видно, что машина не просто выучила наизусть проект бюджета, но и ответила на вопросы. А в январе нынешнего года робот-чиновник начал работать в администрации губернатора Пермского края – как сообщило РИА «Новости», аппарат выдает посетителям пропуска, записывает на прием к чиновникам и консультирует.
Но ни одна машина с самым продвинутым алгоритмом, с самой совершенной системой не в силах заменить человека, принимающего решения на государственном уровне, полагает глава комитета Госдумы по информационной политике Александр Хинштейн.
«Машина произведена человеком, а представители власти, если так можно сказать, производные от народа и им избраны. Искусственный интеллект – это сервис, который дает на выбор большой объем информации, которую ты физически не в состоянии самостоятельно обработать. Но в итоге решение все равно принимается человеком», – сказал Хинштейн в декабре прошлого года в эфире телеканала «Россия».
Несколько иного мнения придерживается экс-советник президента России по развитию интернета, основатель компаний Liveinternet и MediaMetrics Герман Клименко. «Мы начнем заменять искусственным интеллектом бюрократов, это неизбежно», – сказал Клименко газете ВЗГЛЯД. Речь идет об автоматизации рутинных процессов, пояснил собеседник.
Показательно и то, что россияне готовы довериться ИИ в сфере госуслуг, подчеркнул Клименко. «Но люди всегда голосуют за удобство. И если это удобно, если это работает, то с невероятной скоростью будут внедряться технологии, которые, казалось бы, вызвали дикие споры», – отметил экс-советник президента по развитию интернета.
«Что касается не бюрократии, а политики – то это другое дело. Политический деятель работает по большей части в «разговорно-убежденческом» жанре, главный его труд состоит в устранении конфликтов. Искусственный интеллект пока с этим не готов разбираться. Поэтому, на мой взгляд, в ближайшие 20 лет ИИ политиков не заменит», – добавил собеседник.
Футуролог Данила Медведев уверен:
через пять лет мы будем задаваться вопросом не о том, можно ли заменить чиновника искусственным интеллектом, а насколько его надо заменять.
«А еще через десять вопрос будет поставлен ребром: нужно ли вообще оставлять человека на его рабочем месте, – отметил специалист по прогнозированию будущего. – Надо учесть, что чиновнику и парламентарию – человеку, в отличие от ИИ, не хватит всей жизни, чтобы ознакомиться со всем существующим в России корпусом законов и нормативных документов. При этом уже доступные потребителям голосовые помощники типа Алисы или Siri могут обрабатывать текстовые запросы».
Медведев прогнозирует – в ближайшем будущем чат-боты, которые можно будет использовать в качестве замены чиновников, научатся параллельно работать с большими объемами текстов, вычленяя из них нужные смыслы.
И это будущее несет в себе новые угрозы – именно в силу того, что человек может остаться не у дел, подчеркивает собеседник. «Обычному человеку, не следящему за трендами мирового развития, то есть никак не связанному с футурологией, сложно представить себе будущее, кардинально отличающееся от сегодняшнего дня. Это подтверждают данные ВЦИОМ о том, что большинство наших сограждан не опасаются вытеснения человека роботами из их профессий», – отмечает Медведев.
Но те, кто в курсе современных тенденций развития робототехники и ИИ, понимают опасность развития машинного интеллекта. «Например, глава «Сбера» Герман Греф, который общается с ведущими мировыми экспертами в этой сфере, не так давно предупреждал молодых специалистов о перспективах их вытеснения машинами. Мы периодически контактируем с Грефом, и я знаю, что у «Сбера» есть такая амбиция – ИИ, который заменит человека», – рассказал Медведев.
Поскольку развитие ИИ уже не остановить, надо задаться вопросом об «апгрейде» самого человека – повышении его возможностей, считает Медведев, который помимо прочего был сооснователем Российского трансгуманистического движения (трансгуманизм – учение об изменении человеческой природы, вплоть до физического бессмертия).
«Когда идут дискуссии о замене человека искусственным интеллектом, обычно говорят о том, что людям придется овладевать новыми профессиями. И почти ничего не говорится о том, что нужно кардинально поднять интеллект самого человека, – заметил Медведев. – Невозможно просто переучить рабочего или кассира в магазине на квантового физика или специалиста космических систем. По аналогии с индустриализацией 1930-х нам нужна сегодня массовая интеллектуализация населения страны. Однако такой «апгрейд» может стать реальным в случае прорыва в когнитивных науках, нейрофизиологии, нейроинтерфейсах». Этот эволюционный скачок необходим человечеству для того, чтобы не уступить свое место на планете умным машинам, добавил футуролог.
Но прежде чем делегировать государственные функции искусственному интеллекту, нужно задаться вопросом, можно ли вообще создать полноценный ИИ и может ли машина мыслить, рассуждает писатель, доктор философских наук Андрей Ашкеров.
«Но прискорбно, что некоторым атрибутам ИИ – повторю, пока не изобретенного – начинают подражать сами люди, – отметил философ. – Многие эпизоды простого повседневного общения все больше напоминают сцены из жизни киборгов. По всему видно, что в образ машины легко вжиться, да и в машинном статусе пребывать легче, чем в человеческом».
Философ подчеркнул: демократия вместе с определенным перечнем возможностей дает человеку набор гражданских обязанностей, разбираться с которыми весьма сложно. «Проблема в том, что от этих вопросов хочет отделаться не только рядовой потребитель политических услуг. От них хочет отделаться и профессиональная бюрократия, которая, казалось бы, черпает свою власть в их разрешении», – отметил собеседник. Отсюда миф об ИИ, который, как литературный барин, «приедет» и «рассудит», отметил Ашкеров. «Забавно, что подобная надежда на барина для «непослушной» Европы характерна даже больше, чем для якобы «послушной» России», – подытожил эксперт.