Взгляд
1 июня, четверг  |  Последнее обновление — 12:15  |  vz.ru
Разделы

Мы воюем на два фронта – на Украине и внутри страны

Марина Хакимова-Гатцемайер
Марина Хакимова-Гатцемайер, журналист
Наш враг взращивает внутри России подленькую «себялюбивую мразь» и ее «благородный протест», чтобы уничтожить русских их же руками. Делает ставку именно на внутренний конфликт, на наши эмоции. Подробности...

Оружие в руках неподготовленного населения для своих опасней, чем для чужих

Дмитрий Грунюшкин
Дмитрий Грунюшкин, писатель
Вместо создания отрядов самообороны гораздо действенней было бы разместить вдоль границ с безумной Украиной лагеря отдыха и переподготовки ЧВК «Вагнер». Подробности...
Обсуждение: 4 комментария

Может ли иноагент заслужить реабилитацию

Игорь Караулов
Игорь Караулов, поэт, публицист
Как будет происходить это великое и трудное примирение с релокантами и иноагентами, нужно продумывать уже сейчас. И его условия должны диктовать мы, раз уж мы уверены в нашей победе. Подробности...
Обсуждение: 21 комментарий

Москву атаковали восемь украинских беспилотников

Во вторник ранним утром в Москве и Подмосковье были сбиты восемь украинских беспилотников. При этом часть аппаратов при падении повредила жилые дома. По словам мэра Москвы Сергея Собянина, пострадавших нет. В Кремле похвалили работу ПВО Москвы при отражении атаки украинских дронов
Подробности...

Санкт-Петербург с размахом отмечает 320-летие

В субботу Санкт-Петербург отмечает 320-летие. За выходные в городе пройдут праздничные мероприятия, центром которых станут Петропавловская крепость на Заячьем острове, где начинался город, а также Сенатская и Дворцовая площади
Подробности...

Разведывательный корабль «Иван Хурс» вернулся в Севастопольскую бухту

Разведывательный корабль «Иван Хурс» вернулся в Севастополь для пополнения запасов. Ранее корабль отразил атаку беспилотными катерами вооруженных сил Украины примерно в 140 км к северо-востоку от пролива Босфор. На Украине утверждали, что «Иван Хурс» якобы сильно поврежден, но эти утверждения оказались ложными
Подробности...
12:42
собственная новость

В Госдуме подвели итоги реализации нацпроектов в 2022 году

Нацпроекты показали свою гибкость и востребованность в условиях возникших перед Россией вызовов. За счет чего была оказана необходимая поддержка гражданам, отраслям экономики, а также новым регионам России. Об этом газете ВЗГЛЯД рассказал депутат Госдумы Олег Матвейчев, комментируя итоги реализации национальных проектов в 2022 году.
Подробности...
11:59

Первый передвижной клуб культуры появился в Подмосковье

Первый многофункциональный передвижной культурный центр появился в Домодедово в Московской области Подмосковье, в нем есть все необходимое для концертов и кинопоказов: сцена, полный набор световой и звуковой мультимедийной аппаратуры.
Подробности...
21:02
собственная новость

Центр реставрации книг решили создать в Кирове

Перспективы создания на базе библиотеки имени А. И. Герцена регионального центра реставрации книг обсудила министр культуры России Ольга Любимова с главой Кировской области Александром Соколовым.
Подробности...

    Функционирует при финансовой поддержке Министерства цифрового развития, связи и массовых коммуникаций Российской Федерации
    НОВОСТЬ ЧАСА: ФСБ раскрыла разведывательную акцию США через вирус на телефонах Apple

    Главная тема


    Что ждет российскую валюту этим летом

    нефтепровод «Дружба»


    Юшков: Украина пытается нажиться на российской нефти для Венгрии

    «дверь открыта»


    Бербок объяснила позицию по расширению НАТО «в разгар войны»

    угрозы в Арктике


    В НАТО испугались «красного правого хука» со стороны России

    Видео

    статус языка


    Как новый закон затронет русский язык в Киргизии

    последний корабль


    ВКС России добили украинский флот в порту Одессы

    наблюдение из космоса


    Новейший спутник улучшит российский прогноз погоды

    альтернатива G7


    БРИКС начал притягивать новые государства

    снабжение войск


    Как Сталин наказывал генералов-тыловиков за голодных солдат

    особая позиция


    Сергей Миркин: Когда отношения Венгрии и Украины испортятся окончательно

    возможности нейросетей


    Сергей Худиев: Опасность искусственного интеллекта исходит от человека

    трудное примирение


    Игорь Караулов: Может ли иноагент заслужить реабилитацию

    карикатура


    Байден вымолил для себя спасительный глоток

    «Нейросети станут изощренными вымогателями»

    Игорь Ашманов: Нейросети станут изощренными вымогателями
    В умелых руках творение компании OpenAI ChatGPT превращается в создателя фейков
      
    29 марта 2023, 14:52
    Фото: Cfoto/Keystone Press Agency/Global Look Press
    Текст: Татьяна Косолапова

    Вскоре мир столкнется с ситуацией, когда искусственный интеллект через нейросети ChatGPT и GPT-4 начнет создавать различные фейковые документы, видео и фото, которые будет трудно отличить от оригинала, сказал в интервью газете ВЗГЛЯД ИТ-эксперт Игорь Ашманов. О том, что мошенники могут использовать искусственный интеллект для вымогательства и обмана людей, ранее предупредил Европол.

    Накануне Европол заявил, что большие языковые модели на базе искусственного интеллекта, в том числе ChatGPT, могут быть использованы злоумышленниками. Как передает Reuters, с помощью этих нейросетей может производиться фишинг, дезинформация и распространение пропаганды, а также киберпреступность. В связи с этим полицейская служба порекомендовала компаниям и госучреждениям обеспечить высокий уровень кибербезопасности и следить за возможными преступными действиями.

    В России тоже столкнулись с обманом благодаря продвинутости современных нейросетей. Студент РГГУ Александр Жадан поделился в Сети алгоритмом создания своей дипломной работы с помощью чат-бота ChatGPT. На весь процесс у него ушло не более суток, а оригинальность выпускной работы составила 82%. После этого в университете предложили запретить использовать данную нейросеть в образовательных учреждениях из-за возможного влияния на обучение.

    Напомним, бесплатный и доступный всем пользователям чат-бот ChatGPT представила в ноябре прошлого года компания OpenAI, одним из основателей которой был американский предприниматель, основатель Tesla и SpaceХ Илон Маск. Бот способен вести диалог и спорить, искать ошибки в коде, писать стихи и сценарии.

    В марте OpenAI представила новое поколение алгоритма по обработке естественного языка – GPT-4, который интегрирован в ChatGPT. Новая модель может принимать вводные в виде текста, параллельно тестируются возможности на прием картинок. Новая версия наделена большей креативностью и более надежна в использовании.

    Однако сам Илон Маск вместе с рядом других экспертов в области искусственного интеллекта (ИИ) потребовал ввести мораторий на обучение мощных нейросетей, так как неконтролируемый процесс в этой области может представлять угрозу для человечества. Об этом говорится в открытом письме экспертов в области ИИ, опубликованном на сайте некоммерческой организации Future of Life Institute («Институт будущего жизни»).

    «Мы призываем все лаборатории ИИ немедленно приостановить как минимум на шесть месяцев обучение систем ИИ, более мощных, чем GPT-4. Об этом перерыве необходимо объявить публично, его исполнение должно быть проверяемым и охватывать всех ключевых участников отрасли. Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий», – цитирует ТАСС авторов письма. О том, как новые технологии могут оказаться оружием в руках мошенников, газете ВЗГЛЯД рассказал Игорь Ашманов, ИТ-эксперт, президент компаний «Крибрум» и «Ашманов и партнеры».

    ВЗГЛЯД: Игорь Станиславович, в чем заключается особенность нейросетей нового поколения?

    Игорь Ашманов: Умная нейросеть – это бредогенератор нового поколения, но очень гладкий и изощренный. С одной стороны, это гигантский прорыв в технологиях генерации текстов и картинок. С другой – искусственный интеллект имеет свойство ухудшать все, до чего он дотрагивается. Он воспитывает в людях так называемую невзыскательность – привычку к низкому качеству. Например, машинный перевод, а также боты для общения с клиентами банков или мобильных операторов давно упростили работу многим организациям, поскольку им теперь не нужно нанимать огромное количество сотрудников для проделывания такой работы.

    Игорь Ашманов (Павел Кашаев/Global Look Press)

    Игорь Ашманов (фото: Павел Кашаев/Global Look Press)

    Однако тексты, переведенные компьютером, оказываются весьма топорными, а общение с ботом становится проблемой для клиентов. Бот по своей сути занимается лишь тем, что отгоняет клиента и экономит деньги контакт-центра, для чего старается не пропускать человека к живому оператору для решения его проблемы. 

    ВЗГЛЯД: Параллельно с этим высказываются опасения о том, что боты ChatGPT и GPT-4 могут создавать фейки. Так ли это? 

    И. А.: Такие нейросети, как ChatGPT и GPT-4, обучаются на гигантских объемах данных и уже выдают читабельные тексты, хорошие картинки, будто их создал реальный человек. В связи с этим вскоре мы столкнемся с ситуацией, когда через ChatGPT, GPT-4 будут создаваться различные фейки, фальсифицированные документы, видео и фото, которые будет очень непросто отличить от оригинала.

    ВЗГЛЯД: Какие вы видите угрозы с распространением умных нейросетей?

    И. А.: Я думаю, государства начнут использовать генеративные сети для пропаганды. Скорее всего, их могут начать применять и при ведении боевых действий, например, для голосового управления дронами. Кроме того, они могут использоваться мошенниками для вымогания денежных средств у обычных людей. Технологии развились настолько, что мошенники смогут автоматически генерировать готовые тексты для вымогательства личной информации у потенциальной жертвы.

    ВЗГЛЯД: А какого рода информацию они могут генерировать?

    И. А.: Они смогут подделать видео, на котором будет показан сгенерированный персонаж, изображающий родственника жертвы в сложной ситуации, говорящий «своим», неотличимым голосом. Дипфейки также можно использовать для репутационных атак, шантажа. Сама по себе цифровая сфера дает возможность мошенникам работать с десятками, а то и сотнями людей в день. А с помощью генерирующих нейросетей будут производиться дозвоны тысячам потенциальных жертв одновременно, с автоматическим ведением диалога «разводки» и определением того, «ведется» ли жертва. Количество жертв таких преступлений существенно возрастет.

    Еще одна опасность нейросетей заключается в том, что злоумышленники могут использовать эти же технологии для подначивания граждан на саботаж или на какие-либо преступные действия во время военных действий. Например, убеждать их поджечь военкомат «коктейлем Молотова», поджечь электрошкаф на железной дороге и так далее.

    ВЗГЛЯД: Как противодействовать таким угрозам?

    И. А.: Меры, которые помогут частично защитить граждан от потенциальных злоумышленников, использующих нейросети, должны применяться на государственном уровне. В интернете необходимо обеспечить базовую безопасность, которой на данный момент практически нет. Можно это делать и на бытовом уровне, руками самих пользователей. Например, доверчивым пожилым родственникам необходимо ограничивать доступ в Сеть, разрешить вход только на проверенные сайты, запретить брать звонки с незнакомых номеров, тем более – иностранных.

    Также необходимо ввести законодательную работу с сотовыми операторами, которые не хотят запрещать подмену телефонных номеров при звонках и блокировать номера мошенников. Для этого нужны изменения на законодательном уровне – в том числе введение уголовной ответственности за незаконный оборот персональных данных. Это, кстати, планирует сделать Госдума уже в апреле.

     
     
    © 2005 - 2022 ООО «Деловая газета Взгляд»
    E-mail: information@vz.ru
    ..............
    В начало страницы  •
    На главную страницу  •