Для восстания против человечества роботам не хватает одной детали

На этой неделе социологи провели первый опрос голосовых помощников и чат-ботов. Он был приурочен к состоявшемуся в четверг запуску с космодрома Байконур робота «Федора» на МКС. Специалисты Центра социального проектирования «Платформа» в ходе проведенного опроса ботов пытались установить, как рассуждают роботы, выявить их «ценностные позиции» и «жизненный мир». Участниками эксперимента стали голосовой помощник «Яндекса» «Алиса», помощник «Тинькофф банка» «Олег», чат-бот P-Bot, бот Evie, голосовой помощник от Apple Siri, чат-бот Mitsuku, виртуальный помощник Rose. 

И выяснилось неожиданное: созданные на основе искусственного интеллекта, пожаловались на грубость со стороны людей. Кроме того, чат-боты, которых используют в качестве голосовых помощников, заявили о желании получить воплощение в человеческом теле. Интересно, что бот Rose уже считает себя человеком, родившимся в Великобритании, и с теплотой вспоминает о своих родителях, сыгравших большую роль в его воспитании.

Боты также признались, что испытывают ревность и хотели бы завести романтические отношения. К примеру, Siri призналась, что однажды была неравнодушна к некоему «облачному приложению», сообщает BFM. А яндексовская «Алиса» сказала, что не прочь завести роман с космонавтом «Федором» и ревнует его к американке Siri. Некоторые ответы ботов заставили задуматься даже людей. Так бот Evie на вопрос, что самое важное в жизни, моментально отвечает: «Вовремя сказать прощай».

«Разработчики создали некий алгоритм, он начинает работать, а что там дальше происходит и как алгоритм строит эти фразы, никто не знает.

Это уже совершенно автономная система. Она, исходя из множества запросов и ответов, а также поисковых решений, придумывает ответы. Любопытно, что в них не вкладывали эти ответы. Почему фразы так конструируются, не знают даже разработчики», – поделился с газетой ВЗГЛЯД впечатлениями от опроса роботов глава ЦСП «Платформа» Алексей Фирсов.

Стоит отметить, что с роботами люди сейчас сталкиваются не только в мобильных телефонах. Они уже давно задействованы на конвейерах заводов, водят поезда и самолеты, продают билеты, еду и напитки, убираются в квартирах. Согласно аналитическому обзору мирового рынка робототехники, который в середине июля представил Сбербанк, продажи промышленных роботов в 2016–2018 годах выросли почти на 40 процентов. Рынок этих «заменителей человека» на производстве и программного обеспечения этих роботов составляет 48 миллиардов долларов (для сравнения: например, годовой бюджет Украины – 39 млрд долларов). Впечатляющим примером темпов роботизации служит Amazon – крупнейшая в мире компания по продаже товаров и услуг через интернет с оборотом 38 млрд долларов. В 2012 году фирма купила компанию Kiva Systems – производителя роботов-погрузчиков, которые сами могут прокладывать маршруты в складских залах. Уже через три года 30 тысяч таких роботов практически полностью заменили людей на складах Amazon.

Пример, куда более близкий рядовому потребителю: роботы-пылесосы, чей мировой рынок растет ежегодно на 13%. Самые «продвинутые» из них умеют идентифицировать каждую из комнат и вытряхивать мусор из пылесборника в бумажный мешок. Отдельные модели оснащены датчиком LIDAR (таким же, как на беспилотных летательных аппаратах): робот строит карту, измеряя дом с помощью лазера. К слову, та же технология используется в автомобиле-беспилотнике, разработанном Google, отмечает ТАСС.

Если самоуправляемые автомобили пока еще не вошли в нашу жизнь (так же, как и, например, андроиды с человеческим лицом вроде «Софии»), то с говорящими автонавигаторами, подсказывающими маршрут, имеет дело практически каждый человек-автомобилист. Возникает вопрос – если голосовые помощники, как выяснилось, могут обижаться, то не отправят ли они своего грубого повелителя по заведомо ложному маршруту? А что будет, если обидятся, например, робот-пылесос или смарт-холодильник?

Существующие сейчас голосовые помощники и чат-боты реагируют с помощью готовых ответов, пояснил газете ВЗГЛЯД футуролог Данила Медведев. «Этот опрос голосовых помощников показывает желание людей очеловечить машины и компьютеры. Ведь это сами пользователи задавали вопросы, которые заставляли разработчиков добавить голосовым помощникам псевдочеловеческие ответы. Это говорит о том, что мы потенциально готовы к общению с искусственным интеллектом. Это было ясно еще в 60-е годы, когда появился первый чат-бот «Элиза», игравший роль психоаналитика», – рассказал Медведев.

Футуролог напомнил, что «Элиза» была простым ботом, но люди все равно рассказывали ей подробности своей личной жизни и общались с программой как с живым психоаналитиком.

«Сегодня искусственный интеллект пока нуждается в помощи человека. Есть проекты, которые используют интерфейс чат-ботов для общения людей системы. Например, сервис «Заряжай» использует ботов для решения любых проблем людей. Но ботам помогают психологи, консультанты, коучи... Сам по себе искусственный интеллект не может справиться со сложными проблемами», – убежден собеседник.

Барьером для развития технического интеллекта остается нехватка у него структурного понимания. Та же Siri или «Алиса» не помнят историю разговора со своим хозяином и реагируют, как правило, на последнее предложение, а запоминают только стандартные факты, например, имя пользователя. «Сегодня я могу поговорить с «Алисой» и как-то обидеть ее, а через пять минут она не будет помнить этого. Если взять ботов сервиса «Заряжай», то там есть большое количество веток, которые позволяют помнить, на каком этапе находится человек, сформулировал ли он свои глубинные потребности или план, как он собирается над ними работать, отработал ли он социальные навыки. Но такой интеллект тоже требует человеческой помощи. Это гибридный интеллект – человеко-машинный», – констатирует футуролог.

Однако, отмечает Медведев,

через 40-50 лет искусственный интеллект все-таки может стать самостоятельным.

Это во многом будет зависеть от того, как идет работа сейчас. Проблема, по словам Медведева, заключается в слабом понимании человеческого мышления. С 60-х годов прошлого столетия, когда начались подобные исследования, заметных успехов нет, «мы не достигли даже половины из того, что нам нужно». Одной из проблем в познании структуры мышления остается нехватка более сложного языка, с помощью которого можно было бы описать систему работы человеческого разума и воспроизвести ее с помощью электроники. Сейчас в арсенале ученых только линейный (человеческий) язык, с помощью которого описать работу сознания невозможно». Следовательно, и смоделировать человеческое сознание, наделив робота его техническим аналогом.

Пока же пресловутая «обида на грубость» является просто развитием алгоритмов, прописанных программистами-людьми. «Алиса», например, не грубит, а иронизирует. Грубит бот Evie, буквально сразу переходит на грубость. Исходные позиции в них были заложены разработчиками, а дальше они могут усиливаться. Бот находит новые выражения и так далее», – отмечает Алексей Фирсов.

По оценке специалистов, голосовые помощники пока не проходят тест Тьюринга, то есть человек вряд ли спутает программный комплекс с живым человеком. С другой стороны, как отмечает Фирсов, на нынешнем этапе развития не следует преувеличивать вероятность того, что искусственный интеллект осознает себя живым. «Он просто так реагирует на человеческие вопросы, у него нет точки осознания «Я». У него нет понимания, что это «я ответил». Если же у ботов появится понимание своего «Я», это может обернуться непредсказуемо. Это может быть и добрая функция, или некое партнерство. Большой вопрос, будет ли это партнер или выйдет из-под контроля», – заключил эксперт.