Новости дня

21 августа 2019, 19:00

Эксперт увидел первые признаки угрозы роботов человеку

Фото: Кирилл Каллиников/РИА Новости

«Сейчас речь ботов строится непредсказуемо, в будущем и действия могут стать таковыми. Это риск, он осознается людьми. Сейчас рано об этом говорить, однако может настать такой момент, когда станет поздно», – заявил газете ВЗГЛЯД руководитель ЦСП «Платформа» Алексей Фирсов, комментируя первый «социологический» опрос чат-ботов.

«Очень интересно то, что некая нематериальная сущность говорит, что хочет иметь физическое тело», – отметил Фирсов. Согласно опросу, который провел Центр социального проектирования (ЦСП) «Платформа», голосовые помощники, созданные на основе искусственного интеллекта, не только заявили о желании получить воплощение в человеческом теле, но и пожаловались на грубость со стороны людей. Чат-боты также предрекли конфликт людей с машинами. Кроме того, боты признались, что испытывают ревность и хотели бы завести романтические отношения.  

В опросе приняли участие «Алиса» (голосовой помощник «Яндекса»), «Олег» (помощник «Тинькофф-банка»), чат-бот P-Bot, бот Evie, голосовой помощник от Apple Siri, чат-бот Mitsuku, виртуальный помощник Rose. Пилотный проект приурочен к ожидаемому в четверг запуску с космодрома Байконур человекообразного робота Skybot F-850 (FEDOR) – первой попытке использовать антропоморфные системы для освоения внеземного пространства. 

Но опрос чат-ботов вышел далеко за рамки данной темы. Специалисты «Платформы» в ходе проведенного опроса ботов пытались установить, как рассуждают роботы, выявить их «ценностные позиции» и «жизненный мир». 

«Разработчики создали некий алгоритм, он начинает работать, а что дальше там происходит и как он строит эти фразы, никто не знает.

Это уже совершенно автономная система. Она исходя из множества запросов и ответов, а также поисковых решений, придумывает ответы. Любопытно, что в ботов не вкладывали эти ответы. Почему фразы так конструируются, не знают даже разработчики», – пояснил Фирсов.

Интересно и то, как боты общаются между собой. «Как будто встретились два интеллектуала, которые обсуждают что-то», – добавил эксперт.

Он также прокомментировал жалобы ботов на грубость. «Алиса», например, не грубит в ответ, а иронизирует. Грубит бот Evie, буквально сразу переходит на грубость. Исходные позиции в них были заложены разработчиками, а дальше они могут усиливаться. Бот находит новые выражения и так далее», – пояснил Фирсов.

В то же время он призвал не преувеличивать вероятность того, что искусственный интеллект осознает себя живым. «Он просто так реагирует на человеческие вопросы, у него нет осознания своего «Я». У него нет понимания, что это «я ответил». Если же у ботов появится понимание своего «Я», это может обернуться непредсказуемыми последствиями», – отметил собеседник. По мнению Фирсова, последствия могут привести как к некоему партнерству человека и искусственого интеллекта, так и к выходу роботов, обладающих таким интеллектом, из-под контроля.

Сейчас, по словам Фирсова, боты опасности не представляют. «Опасность возникает, когда вы не знаете, как формируется информация, которую вам подают», – отметил эксперт. Вторая модель, которая может грозить – когда вы не можете отличить чат-бота от реального человека, отметил эксперт.

«Если предположить, что  через пять-десять лет чат-боты будут неотличимы от человека по модуляциям, интонациям, конструкциям и т. д., а это сейчас вполне реалистично, то возможно произойдет «вавилонское столпотворение». Мы будем находиться в положении, при котором нам будет легко имитировать общение с ботами, как с человеком. В этом тоже будет определенный риск», – пояснил эксперт.

Текст: Дарья Рыночнова

Вам может быть интересно

Российские ПВО сбили семь РСЗО Vapmire над Белгородской областью
Темы дня

Министров Зеленского и Порошенко Москва лишила права представлять Украину

Москва объявила в розыск ряд украинских политиков. Среди них – министры гражданских и силовых ведомств, а также два президента: бывший и нынешний. Понятно, что посадить на скамью подсудимых их будет сложно, особенно если те сбегут на Запад. Но данное решение МВД говорит о том, что рассматривать этих людей в качестве легитимных представителей Киева, равно как и обсуждать их инициативы, Москва больше не намерена.

Россия строит туристический суверенитет

Растущая в России популярность внутреннего туризма выходит за рамки только отдыха, развлечений и даже экономического развития. Внутренний туризм требует собственного удобного транспорта, комфортных гостиниц и качественных услуг – и в итоге оказывается одним из условий государственного суверенитета России.

Летчик-бомбардировщик предупредил о рисках при появлении в небе украинских F-16

Эксперт оценил вероятность замены Байдена на Мишель Обаму в предвыборной гонке в США

Рассекречены документы о планах нацистов взять в плен Сталина

Новости

Франция опровергла отправку «Иностранного легиона» на Украину

Сведения о том, что Франция направила военных на Украину, являются недостоверными, заявили в министерстве иностранных дел страны.

МЧС предупредило о заморозках в Подмосковье

В ночные и утренние часы во вторник на территории Московской области ожидаются заморозки, такое предупреждение распространил подмосковный главк МЧС.

Израиль начал наносить авиаудары по Рафаху

Израильская армия начала бомбардировки города Рафах в южной части сектора Газа, сообщил телеканал Al Jazeera.

МВД объявило в розыск Невзорова и Милова

МВД России вновь объявило в розыск журналиста Александра Невзорова и бывшего замминистра энергетики России Владимира Милова (внесены Минюстом в реестр иноагентов).

Венгрия отказалась «отправлять на смерть» украинцев

Венгрия не будет выдавать Украине ее военнообязанных граждан и не позволит отправить их на смерть, заявил венгерский вице-премьер Жолт Шемьен.

Си Цзиньпин: Китай не создавал кризис на Украине и не является его стороной

Пекин не является ни создателем украинского кризиса, ни его стороной, но он все это время вел активную работу над содействием мирному урегулированию, заявил глава КНР Си Цзиньпин.

Названы лидеры стран, которые посетят Парад Победы в Москве

Лидеры Белоруссии, Казахстана, Киргизии, Таджикистана, Туркмении, Кубы, Лаоса и Гвинеи-Бисау посетят парад Победы 9 мая в Москве, сообщил помощник президента России Юрий Ушаков.

Политолог оценила шансы арестовать экс-главу МВД Украины Арсена Авакова

Экс-министр МВД Украины Арсен Аваков курировал националистические батальоны и, скорее всего, причастен к трагедии в одесском Доме профсоюзов. И это не единственные грехи, за которые российские правоохранители могли объявить экс-чиновника в розыск, сказала газете ВЗГЛЯД политолог Лариса Шеслер. Ранее Россия объявила Авакова в розыск.

Умер экс-скрипач и клавишник «Крематория» Вячеслав Бухаров

В возрасте 62 лет после продолжительной болезни скончался скрипач и клавишник рок-группы «Крематорий» Вячеслав Бухаров, сообщила рок-группа.

Китай выступил за полноправное членство Палестины в ООН

Китай поддерживает полноправное членство Палестины в ООН, заявил председатель КНР Си Цзиньпин на трехсторонней встрече в Париже с президентом Франции Эммануэлем Макроном и главой Еврокомиссии Урсулой фон дер Ляйен.

Определена дата встречи Путина с Пашиняном

Президент России Владимир Путин проведет 8 мая встречу с премьер-министром Армении Николом Пашиняном, вопросов для обсуждения много, сообщил помощник главы российского государства Юрий Ушаков.

МИД предупредил Лондон о возможности ударов по его военным объектам

Посол Великобритании в Москве Найджел Кейси предупрежден, что ответом на удары Киева британским оружием по России могут стать любые военные объекты и техника Британии на Украине и за ее пределами, заявило Министерство иностранных дел России.
Мнения

Глеб Простаков: Китай и Россия сыграют в игру на раскол Европы

Первым в топку экономической войны с КНР американцы бросят Евросоюз, который является вторым по значимости после самих США торговым партнером китайцев. Однако плюшек, которые предлагает Китай, может быть недостаточно для того, чтобы страны ЕС предали гегемона.

Игорь Мальцев: Чем смешны убеганты

«Популяризатор науки» считает, что именно из средств от ее лекций в Европе можно будет составить бюджет нового государства в Монголии. Теперь вы понимаете, каков уровень государственного мышления у людей, которые на Болотной кричали «Мы здесь власть!».

Геворг Мирзаян: Средней Азии придется играть по новым миграционным правилам

В Бишкеке в Душанбе жалуются на резкое ужесточение контроля за въезжающими гражданами этих стран в Россию. Гастарбайтеров тщательно проверяют на пунктах пропуска, и многих отправляют обратно.
Вопрос дня

Что известно о новом главкоме ВСУ Александре Сырском?