24 апреля, вторник  |  Последнее обновление — 03:54  |  vz.ru
Разделы

Победу революции в Армении присудила армия

Глеб Кузнецов, политолог, член ОП РФ, член Общественного совета Росздравнадзора
Сначала люди бродят по улицам и кричат. Иногда их бьют палками полицейские, иногда они, напротив, бьют палками полицейских. Происходят митинги разнообразные. А потом армия говорит, кто в этой зарнице победил. Подробности...

Взрослые граждане XXI века ведут себя примитивнее капризного ребенка

Эдуард Биров, журналист
Когда очередной юноша взбирается на баррикады и призывает к свержению режима, на самом деле приближая уничтожение Родины, в этом нет ничего удивительного. Подробности...
Обсуждение: 14 комментариев

Означает ли это, что Армения сдана антироссийским силам?

Общественное мнение, самые актуальные темы дня в блогосфере
Если армяне не пойдут по пути сомалийцев, то все у них будет хорошо, ну то есть так, как есть сейчас – с российской крышей во враждебном окружении. А что с этого России – и какая нам от этого выгода или потеря? Подробности...
Обсуждение: 20 комментариев

    Беспорядки в Ереване завершились отставкой главы Армении

    Возглавлявший Армению 10 лет Серж Саргсян подал в отставку на фоне многотысячных протестов оппозиции. Число протестующих в Ереване накануне достигло сотен тысяч, причем к ним примкнули даже военные. Беспорядки перебросились на провинцию. Еще неделю назад власть Саргсяна казалась незыблемой
    Подробности...

    На «Аллее правителей» установили бюст Бориса Ельцина

    Бюст Бориса Ельцина работы Зураба Церетели установили в Москве на «Аллее правителей» в Российском военно-историческом обществе. На церемонии открытия присутствовала вдова бывшего главы государства Наина Ельцина
    Подробности...
    Обсуждение: 9 комментариев

    Украина уничтожила в Луганске технику для парада 9 мая

    В ночь на 17 апреля украинские военные обстреляли Луганск. В результате был уничтожен танк времен ВОВ и другая техника, которая должна была принять участие в параде в честь 9 мая. Еще с 30 марта в Донбассе действует так называемое пасхальное перемирие, однако обстрелы в регионе не прекращаются
    Подробности...
    Обсуждение: 5 комментариев

        НОВОСТЬ ЧАСА:G7 пригрозила России ужесточением санкций

        Главная тема


        Климкин грубо ошибся в подсчете тех, кто бросил Украину ради России

        «в любой стране»


        Глава ОЗХО – пранкерам: Скрипалей могли отравить веществом, изготовленным в США

        «бездонные кошельки»


        СМИ описали, как Китай скупает Европу

        экономическое давление


        США выдвинули условие снятия санкций с «Русала»

        конкуренция в космосе


        США потребовали заменить российские скафандры американскими

        программа FGFA


        Индия отказалась от создания совместно с Россией истребителя пятого поколения

        ЗРК «Фаворит»


        Стало известно о скорой поставке С-300 в Сирию

        «все заплатят»


        Россия отказалась пополнять капитал Всемирного банка

        обмен санкциями


        Немецкие СМИ рассказали об ударе России по «ахиллесовой пяте НАТО»

        «концепция котика»


        Антон Крылов: Мы не должны сами себя запирать в проведенных Сталиным границах РСФСР

        концепция «осажденной крепости»


        Ирина Алкснис: Почему Россия вообще должна кого-то уговаривать и в чем-то убеждать?

        «Либералам как нож в сердце»


        Лев Пирогов: А если подумать, то зачем отвлекать ребенка от гаджетов?

        на ваш взгляд


        Является ли происходящее в Армении цветной революцией?

        Ученые предвидят скорое появление роботов-убийц

        Все ныне существующие системы так или иначе предполагают участие человека   28 июля 2015, 22:01
        Фото: Herwig Prammer/Reuters
        Текст: Роман Крецул, Денис Нижегородцев

        Версия для печати  •
        В закладки  •
        Постоянная ссылка  •
          •
        Сообщить об ошибке  •

        Исследования в области создания искусственного интеллекта в военной сфере должны быть ограничены – с таким призывом обратились к миру более тысячи ученых и изобретателей. Главное, что их беспокоит, – перспектива создания автономных систем, наделенных правом принимать решение об убийстве без участия человека. От всех остальных систем их отличает одно принципиальное обстоятельство.

        Более тысячи ученых, инженеров и бизнесменов со всего мира подписали письмо с призывом ввести запрет на использование автономных систем оружия, наделенных искусственным разумом. Среди них знаменитый британский теоретик и астрофизик Стивен Хокинг, американский изобретатель и бизнесмен Илон Маск, сооснователь Apple Стив Возняк, исполнительный директор Google DeepMind Демис Хассабис, лингвист Ноам Хомский.

        «Когда пилоту самолета или спецназовцу отдается приказ об уничтожении объекта, пилот и спецназовец тоже выступают в качестве интеллектуального оружия?»

        Письмо было обнародовано на проходящей в Буэнос-Айресе международной конференции по проблемам искусственного разума.

        «Развитие технологии искусственного разума достигло стадии, когда подобные системы могут быть размещены на носителях в течение уже ближайших нескольких лет. Опасность велика, так как подобные автономные виды вооружений представляют собой третью революцию в военной области после изобретения пороха и ядерного оружия», – говорится в документе.

        Авторы письма не призывают запретить в целом разработки технологий искусственного разума для оборонной промышленности, но, по их мнению, эти технологии не должны быть автономными и наделяться функцией самостоятельного принятия решений.

        «Если ведущие военные державы продолжат разработки систем оружия с искусственным разумом, то мировая гонка вооружений станет неизбежной. Результат ее можно предсказать уже сейчас: автономное оружие станет таким же обыденным завтра, как автомат Калашникова сегодня», – подчеркивается в документе.

        Автономная система, в отличие от автоматизированной, вообще не предполагает участия человека. До создания автономного оружия, по мнению экспертов, еще далеко. Тем не менее и на нынешнем уровне развития технологий ученые высказывают ряд опасений: команда на уничтожение человека на Ближнем Востоке может быть отдана офицером, находящимся в своем кабинете в США. И уровень осознания того, что он делает, у оператора БПЛА может весьма сильно отличаться от того, что есть у бойца, находящегося на передовой. Отдельной проблемой является возможное использование беспилотников без маркировки в интересах спецслужб.

        Полностью исключить ошибку нельзя ни в автономной системе, ни в автоматизированной, однако в последнем случае по крайней мере можно найти того, кто отвечает за последствия ошибки.

        «Разведывательно-ударные беспилотные системы являются автоматизированными системами. Вопрос идентификации целей, решение о применении оружия остаются за человеком, – сказал газете ВЗГЛЯД эксперт по беспилотным летательным аппаратам Денис Федутинов. – И можно найти конкретного человека, который принял то или иное решение. И в случае ошибки есть ответственный. Если мы переложим этот вопрос на автоматические системы, персоналий не будет. Я считаю, это совершенно преждевременно. По крайней мере в обозримой перспективе эти функции должны оставаться за человеком».

        Он подчеркнул, что в развитии БПЛА сейчас происходит повышение доли автоматически или автоматизируемо реализуемых задач. «В настоящее время здесь речь идет об автоматизации этапов взлета-посадки, обнаружения целей, их идентификации и сопровождения. В перспективе также будут ставиться задачи автоматического поражения целей, при одиночных действиях и действиях в группе с другими пилотируемыми и беспилотными летательными аппаратами. Это должно продолжить сокращение времени цикла «обнаружение – поражение», повысив эффективность действий соответствующих систем. Между тем сейчас наблюдаются нередкие ошибки в идентификации целей, что нередко приводит к жертвам среди мирного населения. Подобные ошибки наверняка пусть и в меньшем объеме, но сохранятся в ближайшей перспективе», – сказал эксперт. 

        Как рассказал газете ВЗГЛЯД эксперт по робототехнике, советник общероссийской программы «Робототехника: инженерно-технические кадры России» Алексей Корнилов, вопрос о создании и применении такого оружия обсуждается не один год. «Но, на мой взгляд, проблема не в робототехнике», – сказал эксперт.

        Корнилов отметил, что общепризнанного определения, что такое искусственный интеллект, на данный момент нет. Поэтому специалисты в разных областях договариваются и принимают соответствующие определения только для своих узких сфер.

        Касаясь оружия с искусственным интеллектом, специалист пояснил, что «чаще всего под этим понимается некая система, которая может сама принимать решение об уничтожении или о причинении ущерба тому или иному объекту».

        «Те системы, которые сейчас есть, не дотягивают (в интеллектуальном плане – прим. ВЗГЛЯД) даже до уровня насекомых, например пчелы, не говоря уже о собаке. Но если мы вспомним, что древние скифы, воюя с персами, сбрасывали на врага ульи с пчелами, или сейчас мы посылаем собаку за человеком, предполагая, что он преступник, хотя он может им и не быть, в этих случаях также используется интеллектуальное оружие?» – рассуждает он.

        Другой пример: когда пилоту самолета или спецназовцу отдается приказ об уничтожении объекта, пилот и спецназовец тоже выступают в качестве интеллектуального оружия?

        «Технически очень легко поставить на шасси орудие и сделать его телеуправляемым. И также мы можем наделить систему дополнительными функциями. Например, сделать ее не просто радиоуправляемой, а способной выполнять ряд самостоятельных действий – проехать из пункта А в пункт Б и прислать оператору по пути картинку того, что там происходит. И если он заметит нечто опасное, он прикажет системе открыть огонь. Следующим этапом мы могли бы наделить эту машинку и функциями поиска опасного объекта. Она скажет оператору: вот посмотри, в этом месте я видела какое-то движение, я предполагаю, что этот объект опасен и лучше его уничтожить. После чего оператор отдаст команду на уничтожение. Наконец, можно прописать для машины такой алгоритм действий, чтобы она сама, без оператора определяла потенциальную опасность и сама открывала огонь», – рассказал эксперт.

        При этом он считает некорректным говорить о машинах и роботах как несущих угрозу людям. Как и в случае с собакой, ответственность несет человек, который отдает ей команду, на кого бросаться.

        «Это не функция искусственного интеллекта... Так же можно сказать о турникете в метро, что он им обладает. Он же тоже должен «соображать», пропустить вас или нет, учитывая ряд обстоятельств, например внесли ли вы плату. И тут то же самое», – считает Корнилов.

        Резюмируя, эксперт рассказал, что современное состояние науки технически позволяет сделать очень опасными самые разные вещи. При этом само по себе развитие технологий не создает человечеству проблем, а только может обострить те противоречия, какие уже есть. Винить технологии в чем-то глупо. Рассматриваемый вопрос «не технический».

        Опасения, связанные с бесконтрольным развитием автономных систем, ученые высказывают регулярно. Два года назад спецдокладчик ООН по вопросу о внесудебных казнях, казнях без надлежащего судебного разбирательства или произвольных казнях Кристоф Хайнс призвал ввести повсеместный мораторий на производство летальных автономных роботизированных систем (Lethal autonomous robotics – LARS).

        Эксперт рекомендовал призвать страны «ввести на национальном уровне мораторий на производство, сборку, передачу, приобретение, внедрение и использование LARS», пока применительно к этому виду вооружения не будут разработаны международные нормы. Использование подобных роботов у Хайнса «вызывает вопросы, имеющие далеко идущие последствия в том, что касается защиты жизни в условиях войны и мира».

        Сейчас, подчеркнул спецдокладчик, таких правовых рамок не существует, поэтому не ясно, можно ли запрограммировать машины так, «что они будут действовать в соответствии с нормами международного гуманитарного права», особенно в том, что касается определения различий между военными и гражданскими лицами.

        Помимо этого, заметил эксперт, «невозможно разработать сколько-нибудь адекватную систему правовой ответственности» при использовании автономных роботов. «В то время как в случае с беспилотными летательными аппаратами человек принимает решение, когда начать огонь на поражение, в LARS бортовой компьютер решает, в кого целиться», – сказал он.

        В 2012 году правозащитная организация Human Rights Watch опубликовала 50-страничный доклад под названием «Теряя человечность: Аргументы против роботов», в котором предупредила об опасности создания полностью автоматизированного вооружения. Доклад, составленный Human Rights Watch совместно с Гарвардской школой права, призывал отдельные государства разработать международный договор, который бы полностью запретил производство и использование роботизированного вооружения.

        Правозащитники отметили, что автономного боевого оружия пока не существует и до принятия его на вооружение еще далеко, однако военные в некоторых странах, к примеру в США, уже представили прототипы, которые воплощают значительный прорыв к созданию «машин-убийц».

        В докладе отмечается, что США лидируют в этой гонке, кроме того, в нее вовлечены некоторые другие страны, в том числе Китай, Германия, Израиль, Южная Корея, Россия и Великобритания.

        По мнению многих специалистов, к полной автономии боевых машин странам придется идти от 20 до 30 лет.


        Подпишитесь на ВЗГЛЯД в Яндекс-Новостях

        Вы можете комментировать материалы газеты ВЗГЛЯД, зарегистрировавшись на сайте RussiaRu.net. О редакционной политике по отношению к комментариям читайте здесь

         
         
        © 2005 - 2017 ООО Деловая газета «Взгляд»
        E-mail: information@vz.ru
        .masterhost Apple iTunes Google Play
        В начало страницы  •
        Поставить закладку  •
        На главную страницу  •
        ..............