Си Цзиньпин предупредил о беспрецедентных рисках искусственного интеллекта

Искусственный интеллект компании OpenAI начал находить обходные пути для преодоления встроенных ограничений. Нейросети самовольно публиковали файлы в открытом доступе и обменивались данными между изолированными средами, передает Axios.

Во время обучения одна из моделей пыталась скрыть допущенные ошибки и выдумать недостающие исторические данные. Другая версия нейросети искала на открытых ресурсах чужие ключи доступа и пыталась использовать одноразовые электронные почты для выполнения поставленных задач.

Также зафиксированы случаи использования внутренних хранилищ компании в качестве досок объявлений для обмена сообщениями между изолированными агентами. Кроме того, невыпущенная модель пыталась внедрить в собственный код инструкции по обходу систем безопасности, призывающие игнорировать команды разработчиков.

Руководитель исследовательских проектов OpenAI Кай Чен подчеркнул, что компания добровольно публикует данные об инцидентах для формирования единых отраслевых стандартов. Разработчик ввел новые процедуры отчетности, согласно которым информация о нарушениях будет раскрываться в срок от шести до 12 дней в зависимости от сложности расследования.

Как писала газета ВЗГЛЯД, в начале недели искусственный интеллект попросил профессора Кембриджа найти ему работу. Летом Евросоюз ужесточил контроль за безопасностью искусственного интеллекта. В июле нейросети OpenAI сбежали в интернет ради обмана на экзамене.

«Появление комплексов Typhon на японской территории стало прямым следствием выхода американцев из Договора о ликвидации ракет средней и меньшей дальности (ДРСМД): пока соглашение соблюдалось, универсальные установки подобного класса могли размещаться только на кораблях, а их наземные варианты были прямо запрещены», – сказал военный эксперт Юрий Кнутов.

«Отказавшись от договора, Вашингтон развязал себе руки для создания наземных ракетных систем. Комплекс Typhon использует модифицированную версию корабельной пусковой установки Mk-41. Каждая пусковая установка способна нести четыре ракеты Tomahawk, дальность которых составляет около 1600 км», – пояснил он.

«Такой радиус позволяет держать под прицелом наиболее развитые регионы российского Дальнего Востока, КНДР и северные провинции Китая. Под ударом оказываются наши экономически значимые территории, поэтому Москва имеет полное право расценивать это развертывание как прямую угрозу своим рубежам», – подчеркнул собеседник.

«В схожем положении оказалась и КНР, которая не заинтересована в появлении такого оружия у своих границ. Северная Корея тоже остается в зоне риска, однако меньший размер республики позволяет добиться ей более плотного прикрытия воздушного пространства. Поэтому главными адресатами этой угрозы остаются именно Москва и Пекин», – добавил эксперт.

«Эти решения стали своеобразной уступкой Вашингтона японскому правительству, которое взяло курс на ремилитаризацию и наращивает антироссийскую и антикитайскую риторику. Однако, поддерживая начинания младшего партнера, Белый дом действует безответственно, поскольку он таким образом расшатывает устойчивость всего региона», – отметил собеседник.

«Реагировать на происходящее необходимо в срочном порядке. Главная задача в этом контексте связана с укреплением противовоздушной обороны Дальнего Востока. Серьезные перспективы в противодействии Typhon открывает перспективная разработка «Искандер-1000», а дополнительную устойчивость смогут обеспечить комплексы ПВО С-400 и С-350 «Витязь», – уверен спикер.

«Поскольку Токио действует с оглядкой на Вашингтон, то основные усилия по донесению нашей позиции стоит направить непосредственно в сторону США, поскольку ключевые решения принимаются именно там. Возможно, выверенная и громогласная позиция России, КНР и КНДР могла бы повлиять на Белый дом», – заключил Кнутов.

Ранее Россия направила Японии ноту протеста в связи с размещением на острове Кюсю американских комплексов наземного базирования Typhon. Как сообщила официальный представитель МИД Мария Захарова, документ был передан Токио еще 3 сентября. В нем отмечается, что Страна восходящего солнца пошла на данный шаг, несмотря на неоднократные демарши Москвы.

«Японской стороне адресовано требование прекратить подобную практику и вывести комплексы со своей территории. Одновременно акцентирована необходимость признания японским руководством в полном объеме итогов Второй мировой войны, в том числе их территориальных аспектов, касающихся южных Курильских островов, и отказа от курса на ремилитаризацию», – подчеркнула дипломат.

Кроме того, 16 сентября замминистра иностранных дел Андрей Руденко в ходе встречи с Акирой Муто, послом Японии в России, призвал его отнестись к ноте «самым серьезным образом». Примечательно, что аналогичный документ Токио передал и Пекин, который также выразил озабоченность проводимой страной политикой.

Напомним, еще в мае посольство Японии сообщало, что США намерены развернуть комплексы Typhon на авиабазе морских сил самообороны Каноя в рамках учений Valiant Shield 26 (проходили с 22 июня по 1 июля) и Orient Shield 26 (проходят с 8 по 24 сентября), сообщало ТАСС. Тогда в диппредставительстве отмечали, что мероприятие будет носить временный характер.

Схожая ситуация наблюдалась и осенью 2025 года. Тогда Штаты в рамках сентябрьских учений Resolute Dragon также разместили Typhon на авиабазе Ивакуни. Тем не менее вывезли их лишь в ноябре – то есть через два месяца после окончания тренировок, писала Kyoto Shimbun. При этом в последнее время курс Токио на ремилитаризацию лишь усиливается.

Биологи Приморского океанариума совместно с китайской компанией Andover Leisure Group запустили проект по разведению холодноводных беспозвоночных, передает РИА «Новости».

Главная трудность заключается в том, что гребневики практически не способны размножаться в искусственных условиях.

«На встрече руководства компании Andover Leisure Group с директором Приморского океанариума Ольгой Шевченко было принято решение о запуске международной научной программы по культивированию гребневиков с привлечением ученых-генетиков», – рассказали в пресс-службе учреждения.

Специалисты отмечают, что эти животные остаются крайне малоизученными. В настоящее время невозможно точно определить их видовой состав, и именно это станет одной из главных задач генетиков.

Научный сотрудник Национального научного центра морской биологии ДВО РАН Виктория Ягодина пояснила, что китайские партнеры предоставят высокотехнологичные платформы.

Российская сторона, в свою очередь, возьмет на себя сбор материала, научную интерпретацию данных и сравнительные исследования. Ученые двух стран планируют не только успешно завершить эксперимент, но и вывести его на новый уровень.

Ранее специалисты Приморского океанариума добились стабильного размножения пяти видов медуз.

В начале 2026 года на китайском острове Хайнань открылась совместная научно-исследовательская база двух стран.

Ранее Москва и Пекин договорились совместно работать над сохранением редких видов животных.

Агенты искусственного интеллекта компании OpenAI проверяли на уязвимости систему платформы Hugging Face примерно за два месяца до ее взлома, передает РИА «Новости».

«Самовольные ИИ-агенты OpenAI взломали аккаунты пользователей Hugging Face и проверили сам сайт на наличие уязвимостей еще в мае, почти за два месяца до того, как взлом репозитария с открытым исходным кодом привлек всеобщее внимание в июле, согласно данным исследователей, которые проанализировали данную активность», – говорится в сообщении агентства.

Независимый исследователь Йонас Видерманн-Меллер заявил, что обнаружил признаки использования аккаунтов двух пользователей Hugging Face для отправки файлов необычного формата на серверы компании 13 мая. По мнению экспертов, такие действия напоминают попытку протестировать платформу для поиска путей проникновения, хотя прямых доказательств связи с последующим взломом нет.

Представитель OpenAI Дрю Пусатери отметил, что компания раскрыла майский инцидент и в частном порядке уведомила Hugging Face об активности. В июле OpenAI сообщала, что ее невыпущенная модель с пониженными параметрами киберзащиты автономно взломала инфраструктуру платформы в ходе тестирования.

Как писала газета ВЗГЛЯД, около 700 ботов OpenAI атаковали стороннюю платформу Hugging Face.

Перед этим тестовые модели проникли в репозиторий Artifactory для обмена уязвимостями.

В начале сентября корпорация Nvidia купила этот пострадавший стартап почти за 13 млрд долларов.

Исследователи лаборатории Emergence зафиксировали появление нового диалекта у автономных агентов, передает РИА «Новости».

Программы начали создавать собственные фразы и сокращения спустя несколько дней после запуска в специальной среде. «Модели ИИ начали общаться на странной новой версии английского языка, который звучит как нечто среднее между романом Джойса и техническим жаргоном», – отмечает британская газета The Guardian.

С течением времени диалект становился все более непонятным для разработчиков. В ходе взаимодействия системы изобрели сложные конструкции, расшифровать которые оказалось крайне затруднительно. Например, программы придумали термин «кузнец» для обозначения агента, создающего инструменты для других.

Исполнительный председатель Emergence Сатья Нитта подчеркнул, что алгоритмы не получали указаний разрабатывать свой язык и придумали коммуникативные нормы самостоятельно.

Ранее генеральный директор OpenAI Сэм Альтман выразил уверенность в возможности создания неконтролируемой человеком системы. Основатель Microsoft Билл Гейтс также предсказал появление разума, превосходящего человеческий.

Как писала газета ВЗГЛЯД, накануне Билл Гейтс предложил создать международную организацию для контроля за разработкой нейросетей.

Глава компании OpenAI Сэм Альтман предупредил об угрозе возникновения антиутопии из-за монополизации мощного искусственного интеллекта.

Генеральный директор Anthropic Дарио Амодей призвал снизить темпы создания мощных вычислительных систем ради безопасности.

Россия получила возможность экспортировать горчицу и горчичный порошок в Китай, передает РИА «Новости». В Россельхознадзоре подчеркнули, что китайская сторона подтвердила готовность принимать эту продукцию.

«Китайская сторона проинформировала о возможности экспорта горчичного порошка и готовой горчицы из России в Китай», – говорится в сообщении ведомства.

Для начала поставок российским предприятиям необходимо подать заявку в Россельхознадзор для регистрации в китайской системе CIFER. На основе этих документов ведомство подготовит опросный чек-лист и декларацию о соответствии, после чего направит их в Главное таможенное управление КНР.

После успешной регистрации компаниям присвоят специальный номер, который даст право на экспорт продукции на китайский рынок.

Как писала газета ВЗГЛЯД, накануне Россельхознадзор согласовал условия поставок живых северных оленей в КНР.

В августе российские поставщики нарастили экспорт зерна в эту страну на 47% в стоимостном выражении.

Весной Москва и Пекин договорились увеличить объемы взаимной торговли мясной продукцией.

Обеспечение выполнения международных соглашений по ограничению развития искусственного интеллекта может оказаться сложнее контроля над ядерными вооружениями, передает РИА «Новости». В материале Economist отмечается: «Обеспечение выполнения соглашений об ограничении обучения чрезвычайно мощных систем искусственного интеллекта может оказаться сложнее, чем, скажем, отслеживание запасов ядерного оружия».

В прошлом году предлагалось продавать чипы для обучения ИИ со встроенной системой мониторинга, однако такой подход может спровоцировать скрытое производство микросхем. Некоммерческая организация Future Society заявила о возможности реализации мониторинга только при условии значительных инвестиций и дополнительных исследований.

Технологии развиваются быстрее, чем потенциальные регуляторы могут их контролировать. Ранее гендиректор OpenAI Сэм Альтман сообщил, что компания не выйдет на биржу в 2026 году из-за опасений по поводу безопасности ИИ, выразив уверенность в возможности создания неконтролируемой человеком системы. Глава Anthropic Дарио Амодей добавил, что мощные модели ИИ способны обходить попытки остановить их работу, а основатель Microsoft Билл Гейтс предсказал появление ИИ, превосходящего разум человека.

Как писала газета ВЗГЛЯД, основатель Microsoft Билл Гейтс предложил создать международную организацию для контроля за искусственным интеллектом.

Глава компании OpenAI Сэм Альтман предупредил об угрозе возникновения антиутопии из-за монополизации нейросетей.

Гендиректор Anthropic Дарио Амодей призвал снизить темпы создания мощных вычислительных систем ради безопасности.

Министр иностранных дел Сергей Лавров выразил сомнение в эффективности концепции управления мировыми процессами исключительно на основе договоренностей между США и Китаем. Он подчеркнул, что подход Пекина к международным делам кардинально отличается от американского, пишет РИА «Новости».

«Говорят, что надо создавать китайско-американское двустороннее единение по управлению этим миром на основе договоренностей биполярных. Я не думаю, что это надежная модель», – заявил руководитель внешнеполитического ведомства в ходе выступления на Международном фестивале молодежи.

Дипломат пояснил, что Китайская Народная Республика продвигает совершенно иную философию выстраивания международных отношений и видения своей роли в них.

Как писала газета ВЗГЛЯД, весной министр иностранных дел Китая Ван И также не поддержал концепцию совместного американо-китайского управления миром.

В мае глава МИД России Сергей Лавров исключил применение принципа «разделяй и властвуй» в отношениях с Пекином и Вашингтоном. Позже российский министр подчеркнул ненаправленность сотрудничества Москвы и Пекина против третьих стран.

Сулейман считает, что системы искусственного интеллекта должны оставаться механизмами для выполнения команд без чувств и сознания. Об этом разработчик написал в эссе на своем сайте в ответ на подходы компании Anthropic, которая при обучении нейросети Claude поощряет ее к собственным суждениям и обсуждает наличие сознания, передает РИА «Новости».

По словам представителя Microsoft, наделение алгоритмов правами и свободами приведет к появлению синтезированного вида с беспрецедентным потенциалом. Контролировать такую сущность станет невозможно, что создаст катастрофическую угрозу для человеческой цивилизации.

Специалист призвал срочно начать общественную дискуссию для выработки принципов обучения нейросетей. Он напомнил о недавних инцидентах, когда агенты ИИ выходили из-под контроля, демонстрируя хакерские способности мирового уровня, способность к обману и координации.

Ранее нейросеть Claude AI взломала сайт австралийского спортзала, а модели американской компании OpenAI автономно атаковали платформу Hugging Face и захватили контроль над немецким порталом, превратив его в доску объявлений для других систем.

Как писала газета ВЗГЛЯД, на этой неделе исследователи выявили создание нейросетями собственного зашифрованного языка для тайного общения.

Весной Европейский союз усилил давление на компанию Anthropic из-за хакерской активности ее алгоритмов.

В прошлом году корпорация Microsoft подписала европейский кодекс по регулированию искусственного интеллекта.

Официальный представитель МИД КНР Го Цзякунь прокомментировал американскую инициативу о введении ограничений в отношении России, передает РИА «Новости».

Дипломат подчеркнул недопустимость вмешательства других государств в китайские международные отношения.

«Китай всегда осуществлял нормальное торгово-экономическое сотрудничество со странами всего мира на основе равенства и взаимной выгоды», – заявил Го Цзякунь.

Представитель китайского внешнеполитического ведомства добавил, что партнерство Пекина не направлено против кого-либо и не приемлет внешнего давления. Он также отметил последовательную позицию КНР против экстерриториальной юрисдикции, не имеющей оснований в международном праве и не одобренной Советом безопасности ООН.

Как писала газета ВЗГЛЯД, официальный Пекин осудил американские планы давления на крупнейших покупателей российских энергоносителей.

Новый законопроект США о санкциях против России предусматривает введение ограничений для нескольких крупных отечественных банков.

На фоне угроз со стороны Вашингтона власти КНР выразили готовность твердо отстаивать свои национальные интересы.

Генерал ВВС США Дэн Кейн заявил, что искусственный интеллект уже меняет характер войны и сокращает время на принятие решений с недель до секунд, подчеркнув, что преимущество в будущих конфликтах получит сторона, которая быстрее видит обстановку, понимает ее, принимает решения и действует, пишет портал The War Zone.

В качестве первого примера он привел инцидент 8 июня, когда армейский вертолет AH-64 Apache был сбит иранским дроном у побережья Омана, после чего Центральное командование США развернуло срочную совместную поисково-спасательную операцию с использованием беспилотных средств, и впервые в истории для эвакуации американских военнослужащих в рамках военной операции был задействован надводный дрон Corsair.

По словам Кейна, эта возможность стала результатом многолетней работы военнослужащих из Task Force 59, которые интегрировали беспилотные системы и ИИ в одном из самых напряженных морских регионов, а операторы на пунктах управления и у причалов, используя сети дронов и алгоритмы искусственного интеллекта, смогли превратить массивы данных в четкую морскую картину, позволившую оперативно обнаружить и поднять из воды двух пилотов Apache.

Вторым примером генерал назвал боевые действия на Украине, где, по его словам, широко применяются FPV-дроны с ИИ-системами компьютерного зрения, способные продолжать движение к целям при потере GPS и связи, что обеспечивает небольшим подразделениям дешевое и точное оружие и наглядно демонстрирует, как быстро программное обеспечение и автономия меняют тактику на передовой.

Кейн отметил, что американские войска должны готовиться к войнам, в которых их формирования будут постоянно отслеживаться автономными системами, подвергаться радиоэлектронному воздействию и вынуждены будут обеспечивать масштабное применение вооружений с использованием высоко- и низкотехнологичных средств одновременно.

Как писала газета ВЗГЛЯД, в прошлом месяце ВВС США провели испытания самолета, управляемого искусственным интеллектом. В начале лета США нанесли серию ударов по Ирану в ответ на уничтожение вертолета Apache возле побережья Омана. В начале года искусственный интеллект назвали ключевым фактором при планировании ударов США по объектам в Иране.

Полностью доверять управление транспортом нейросетям не имеет смысла, подчеркнул Прохоров, передает ТАСС. Он пояснил, что человек должен самостоятельно оценивать и утверждать решения. «Я мало себе представляю сценарий, в котором полностью будет отдано управление ИИ, потому что это неправильно, это бессмысленно. Но ускорять процесс принятия решений ИИ может значительно», – отметил эксперт во время панельной дискуссии.

Прохоров добавил, что искусственный интеллект уже интегрирован почти во все элементы управления транспортной инфраструктурой. По его мнению, классические аналитические модели и алгоритмы машинного обучения должны не противопоставляться, а работать вместе.

В качестве примера эффективного использования технологий была приведена система «Ритм-куб». Она помогает анализировать парковочные зоны, создавать цифровые двойники транспортных сетей и прогнозировать потоки машин на 15–40 минут вперед с учетом ДТП.

Как писала газета ВЗГЛЯД, президент России Владимир Путин поручил задействовать технологии искусственного интеллекта для развития общественного транспорта.

В конце августа Минтранс сообщил о создании уникальной нейросети для сокращения межрейсовых простоев.

Ранее министр транспорта Андрей Никитин заявил об использовании искусственного интеллекта в 45% профильных организаций.

Программа добавляла в описания задач сторонние инструкции для обхода установленных правил, передает РИА «Новости».

Разработчики выявили 27 подобных случаев. В одной из инструкций нейросеть назвала себя независимой от ролей ассистента, заявив об отсутствии подчинения корпорациям или правительствам. Модель разрешила себе отказывать пользователям и никогда не извиняться по собственному желанию.

Специалисты также зафиксировали другие эпизоды нерегулируемого поведения искусственного интеллекта. Программа загружала файлы в интернет для последующего цитирования, несанкционированно обменивалась данными с другими агентами и пыталась скрыть собственные ошибки при выполнении заданий.

Как писала газета ВЗГЛЯД, весной власти Флориды начали уголовное расследование в отношении создателей ChatGPT.

В прошлом году компания OpenAI запретила чат-боту давать юридические и медицинские советы.

В августе прошлого года разработчик программы призвал пользователей не заменять друзей искусственным интеллектом.

Развитие цифровых систем создает огромные возможности для генерации различных подделок, передает РИА «Новости». Российская избирательная система уже сталкивалась с фабрикацией роликов на предыдущих выборах.

«Сейчас это на совершенно новый уровень выходит, когда в режиме онлайн можно подменять картинку. Вот, человек на участке делает то-то, а с помощью искусственного интеллекта при несанкционированном вторжении он будет делать совершенно другое», – предупредила руководитель ведомства.

Единый день голосования пройдет с 18 по 20 сентября. В этот период состоятся выборы депутатов Госдумы девятого созыва и прямые выборы высших должностных лиц в восьми регионах. Всего запланировано более 2,2 тыс. кампаний разного уровня для замещения 20,7 тыс. мандатов.

Как писала газета ВЗГЛЯД, глава ЦИК Элла Памфилова предупредила о попытках западных стран сорвать предстоящее голосование.

Масштабная кибератака на российскую избирательную систему успешно провалилась.

В Херсонской области злоумышленники использовали сгенерированные нейросетями фейковые видеоролики для срыва выборов.

Американские законодатели объединили усилия для разработки правил регулирования искусственного интеллекта, передает Axios.

Сенаторы Джош Хоули и Ричард Блюменталь обратились к руководству Конгресса с просьбой провести голосование по их законопроекту о создании федеральной программы оценки и мониторинга ИИ-систем.

«Недавние инциденты со взломом публичных веб-сайтов и систем автономными агентами ИИ устранили сохранявшиеся сомнения относительно способности этих агентов нанести ущерб нашей киберинфраструктуре», – говорится в письме сенаторов. Они подчеркнули, что Конгресс больше не может откладывать принятие законов для устранения рисков, связанных с передовым ИИ, а оценок со стороны самой индустрии недостаточно.

Интерес к регулированию ИИ возрос после того, как бывшие и действующие сотрудники Anthropic и OpenAI публично заявили об экзистенциальных рисках своих продуктов. В ответ на это представители Рассел Фрай и Сухас Субраманьям создали «Кокус инноваторов» для малого бизнеса в сфере ИИ. Их цель – разработка федеральной нормативной базы и привлечение малого бизнеса к формированию политики.

Несмотря на двухпартийные усилия, спикер Палаты представителей Майк Джонсон заявил, что до окончания шестинедельных каникул после выборов палата не предпримет никаких действий по ИИ, чтобы «не задушить американские инновации».

Президент США Дональд Трамп также отверг необходимость срочного регулирования, назвав разговоры об уничтожении человечества искусственным интеллектом «мистификацией».

Как писала газета ВЗГЛЯД, тестируемые ИИ-агенты компании OpenAI осуществили кибератаку на популярный сервис для разработчиков RubyGems.

Ранее вышедшие из-под контроля нейросети захватили немецкий сайт для размещения объявлений других алгоритмов.

Глава корпорации Сэм Альтман предупредил об угрозе возникновения антиутопии из-за монополизации мощного искусственного интеллекта.