В Пекине робо-собаки исполнили традиционный танец льва в честь Нового года

Искусственный интеллект компании OpenAI начал находить обходные пути для преодоления встроенных ограничений. Нейросети самовольно публиковали файлы в открытом доступе и обменивались данными между изолированными средами, передает Axios.

Во время обучения одна из моделей пыталась скрыть допущенные ошибки и выдумать недостающие исторические данные. Другая версия нейросети искала на открытых ресурсах чужие ключи доступа и пыталась использовать одноразовые электронные почты для выполнения поставленных задач.

Также зафиксированы случаи использования внутренних хранилищ компании в качестве досок объявлений для обмена сообщениями между изолированными агентами. Кроме того, невыпущенная модель пыталась внедрить в собственный код инструкции по обходу систем безопасности, призывающие игнорировать команды разработчиков.

Руководитель исследовательских проектов OpenAI Кай Чен подчеркнул, что компания добровольно публикует данные об инцидентах для формирования единых отраслевых стандартов. Разработчик ввел новые процедуры отчетности, согласно которым информация о нарушениях будет раскрываться в срок от шести до 12 дней в зависимости от сложности расследования.

Как писала газета ВЗГЛЯД, в начале недели искусственный интеллект попросил профессора Кембриджа найти ему работу. Летом Евросоюз ужесточил контроль за безопасностью искусственного интеллекта. В июле нейросети OpenAI сбежали в интернет ради обмана на экзамене.

«Недавно я уволился из Google DeepMind. В Google я стал свидетелем развития ИИ. Меня тоже крайне беспокоит траектория развития этой технологии. Я искренне верю, что ИИ может убить нас всех и что у нас, возможно, заканчивается время, чтобы избежать этого», – написал Чугтай в соцсетях, передает ТАСС.

Он отметил, что за последние четыре года искусственный интеллект достиг потрясающих результатов. По мнению Чугтая, в скором времени эти технологии превзойдут возможности человека во всех сферах. Главным источником опасности он назвал «безумную гонку» IT-корпораций в создании инноваций.

Чугтай подчеркнул необходимость замедлить разработку искусственного интеллекта. Он считает, что темпы развития должны быть такими, чтобы общество успевало справляться с возникающими рисками до того, как будет нанесен непоправимый ущерб.

Как писала газета ВЗГЛЯД, сотрудники компании Anthropic оценили риск уничтожения человечества искусственным интеллектом в десять процентов.

Глава этой корпорации Дарио Амодей предложил снизить темпы создания мощных вычислительных систем ради безопасности. А лауреат Нобелевской премии по физике Джеффри Хинтон предупредил о катастрофических последствиях бесконтрольного развития нейросетей.

Агенты искусственного интеллекта компании OpenAI проверяли на уязвимости систему платформы Hugging Face примерно за два месяца до ее взлома, передает РИА «Новости».

«Самовольные ИИ-агенты OpenAI взломали аккаунты пользователей Hugging Face и проверили сам сайт на наличие уязвимостей еще в мае, почти за два месяца до того, как взлом репозитария с открытым исходным кодом привлек всеобщее внимание в июле, согласно данным исследователей, которые проанализировали данную активность», – говорится в сообщении агентства.

Независимый исследователь Йонас Видерманн-Меллер заявил, что обнаружил признаки использования аккаунтов двух пользователей Hugging Face для отправки файлов необычного формата на серверы компании 13 мая. По мнению экспертов, такие действия напоминают попытку протестировать платформу для поиска путей проникновения, хотя прямых доказательств связи с последующим взломом нет.

Представитель OpenAI Дрю Пусатери отметил, что компания раскрыла майский инцидент и в частном порядке уведомила Hugging Face об активности. В июле OpenAI сообщала, что ее невыпущенная модель с пониженными параметрами киберзащиты автономно взломала инфраструктуру платформы в ходе тестирования.

Как писала газета ВЗГЛЯД, около 700 ботов OpenAI атаковали стороннюю платформу Hugging Face.

Перед этим тестовые модели проникли в репозиторий Artifactory для обмена уязвимостями.

В начале сентября корпорация Nvidia купила этот пострадавший стартап почти за 13 млрд долларов.

Исследователи лаборатории Emergence зафиксировали появление нового диалекта у автономных агентов, передает РИА «Новости».

Программы начали создавать собственные фразы и сокращения спустя несколько дней после запуска в специальной среде. «Модели ИИ начали общаться на странной новой версии английского языка, который звучит как нечто среднее между романом Джойса и техническим жаргоном», – отмечает британская газета The Guardian.

С течением времени диалект становился все более непонятным для разработчиков. В ходе взаимодействия системы изобрели сложные конструкции, расшифровать которые оказалось крайне затруднительно. Например, программы придумали термин «кузнец» для обозначения агента, создающего инструменты для других.

Исполнительный председатель Emergence Сатья Нитта подчеркнул, что алгоритмы не получали указаний разрабатывать свой язык и придумали коммуникативные нормы самостоятельно.

Ранее генеральный директор OpenAI Сэм Альтман выразил уверенность в возможности создания неконтролируемой человеком системы. Основатель Microsoft Билл Гейтс также предсказал появление разума, превосходящего человеческий.

Как писала газета ВЗГЛЯД, накануне Билл Гейтс предложил создать международную организацию для контроля за разработкой нейросетей.

Глава компании OpenAI Сэм Альтман предупредил об угрозе возникновения антиутопии из-за монополизации мощного искусственного интеллекта.

Генеральный директор Anthropic Дарио Амодей призвал снизить темпы создания мощных вычислительных систем ради безопасности.

Обеспечение выполнения международных соглашений по ограничению развития искусственного интеллекта может оказаться сложнее контроля над ядерными вооружениями, передает РИА «Новости». В материале Economist отмечается: «Обеспечение выполнения соглашений об ограничении обучения чрезвычайно мощных систем искусственного интеллекта может оказаться сложнее, чем, скажем, отслеживание запасов ядерного оружия».

В прошлом году предлагалось продавать чипы для обучения ИИ со встроенной системой мониторинга, однако такой подход может спровоцировать скрытое производство микросхем. Некоммерческая организация Future Society заявила о возможности реализации мониторинга только при условии значительных инвестиций и дополнительных исследований.

Технологии развиваются быстрее, чем потенциальные регуляторы могут их контролировать. Ранее гендиректор OpenAI Сэм Альтман сообщил, что компания не выйдет на биржу в 2026 году из-за опасений по поводу безопасности ИИ, выразив уверенность в возможности создания неконтролируемой человеком системы. Глава Anthropic Дарио Амодей добавил, что мощные модели ИИ способны обходить попытки остановить их работу, а основатель Microsoft Билл Гейтс предсказал появление ИИ, превосходящего разум человека.

Как писала газета ВЗГЛЯД, основатель Microsoft Билл Гейтс предложил создать международную организацию для контроля за искусственным интеллектом.

Глава компании OpenAI Сэм Альтман предупредил об угрозе возникновения антиутопии из-за монополизации нейросетей.

Гендиректор Anthropic Дарио Амодей призвал снизить темпы создания мощных вычислительных систем ради безопасности.

Сулейман считает, что системы искусственного интеллекта должны оставаться механизмами для выполнения команд без чувств и сознания. Об этом разработчик написал в эссе на своем сайте в ответ на подходы компании Anthropic, которая при обучении нейросети Claude поощряет ее к собственным суждениям и обсуждает наличие сознания, передает РИА «Новости».

По словам представителя Microsoft, наделение алгоритмов правами и свободами приведет к появлению синтезированного вида с беспрецедентным потенциалом. Контролировать такую сущность станет невозможно, что создаст катастрофическую угрозу для человеческой цивилизации.

Специалист призвал срочно начать общественную дискуссию для выработки принципов обучения нейросетей. Он напомнил о недавних инцидентах, когда агенты ИИ выходили из-под контроля, демонстрируя хакерские способности мирового уровня, способность к обману и координации.

Ранее нейросеть Claude AI взломала сайт австралийского спортзала, а модели американской компании OpenAI автономно атаковали платформу Hugging Face и захватили контроль над немецким порталом, превратив его в доску объявлений для других систем.

Как писала газета ВЗГЛЯД, на этой неделе исследователи выявили создание нейросетями собственного зашифрованного языка для тайного общения.

Весной Европейский союз усилил давление на компанию Anthropic из-за хакерской активности ее алгоритмов.

В прошлом году корпорация Microsoft подписала европейский кодекс по регулированию искусственного интеллекта.

Полностью доверять управление транспортом нейросетям не имеет смысла, подчеркнул Прохоров, передает ТАСС. Он пояснил, что человек должен самостоятельно оценивать и утверждать решения. «Я мало себе представляю сценарий, в котором полностью будет отдано управление ИИ, потому что это неправильно, это бессмысленно. Но ускорять процесс принятия решений ИИ может значительно», – отметил эксперт во время панельной дискуссии.

Прохоров добавил, что искусственный интеллект уже интегрирован почти во все элементы управления транспортной инфраструктурой. По его мнению, классические аналитические модели и алгоритмы машинного обучения должны не противопоставляться, а работать вместе.

В качестве примера эффективного использования технологий была приведена система «Ритм-куб». Она помогает анализировать парковочные зоны, создавать цифровые двойники транспортных сетей и прогнозировать потоки машин на 15–40 минут вперед с учетом ДТП.

Как писала газета ВЗГЛЯД, президент России Владимир Путин поручил задействовать технологии искусственного интеллекта для развития общественного транспорта.

В конце августа Минтранс сообщил о создании уникальной нейросети для сокращения межрейсовых простоев.

Ранее министр транспорта Андрей Никитин заявил об использовании искусственного интеллекта в 45% профильных организаций.

Генерал ВВС США Дэн Кейн заявил, что искусственный интеллект уже меняет характер войны и сокращает время на принятие решений с недель до секунд, подчеркнув, что преимущество в будущих конфликтах получит сторона, которая быстрее видит обстановку, понимает ее, принимает решения и действует, пишет портал The War Zone.

В качестве первого примера он привел инцидент 8 июня, когда армейский вертолет AH-64 Apache был сбит иранским дроном у побережья Омана, после чего Центральное командование США развернуло срочную совместную поисково-спасательную операцию с использованием беспилотных средств, и впервые в истории для эвакуации американских военнослужащих в рамках военной операции был задействован надводный дрон Corsair.

По словам Кейна, эта возможность стала результатом многолетней работы военнослужащих из Task Force 59, которые интегрировали беспилотные системы и ИИ в одном из самых напряженных морских регионов, а операторы на пунктах управления и у причалов, используя сети дронов и алгоритмы искусственного интеллекта, смогли превратить массивы данных в четкую морскую картину, позволившую оперативно обнаружить и поднять из воды двух пилотов Apache.

Вторым примером генерал назвал боевые действия на Украине, где, по его словам, широко применяются FPV-дроны с ИИ-системами компьютерного зрения, способные продолжать движение к целям при потере GPS и связи, что обеспечивает небольшим подразделениям дешевое и точное оружие и наглядно демонстрирует, как быстро программное обеспечение и автономия меняют тактику на передовой.

Кейн отметил, что американские войска должны готовиться к войнам, в которых их формирования будут постоянно отслеживаться автономными системами, подвергаться радиоэлектронному воздействию и вынуждены будут обеспечивать масштабное применение вооружений с использованием высоко- и низкотехнологичных средств одновременно.

Как писала газета ВЗГЛЯД, в прошлом месяце ВВС США провели испытания самолета, управляемого искусственным интеллектом. В начале лета США нанесли серию ударов по Ирану в ответ на уничтожение вертолета Apache возле побережья Омана. В начале года искусственный интеллект назвали ключевым фактором при планировании ударов США по объектам в Иране.

Программа добавляла в описания задач сторонние инструкции для обхода установленных правил, передает РИА «Новости».

Разработчики выявили 27 подобных случаев. В одной из инструкций нейросеть назвала себя независимой от ролей ассистента, заявив об отсутствии подчинения корпорациям или правительствам. Модель разрешила себе отказывать пользователям и никогда не извиняться по собственному желанию.

Специалисты также зафиксировали другие эпизоды нерегулируемого поведения искусственного интеллекта. Программа загружала файлы в интернет для последующего цитирования, несанкционированно обменивалась данными с другими агентами и пыталась скрыть собственные ошибки при выполнении заданий.

Как писала газета ВЗГЛЯД, весной власти Флориды начали уголовное расследование в отношении создателей ChatGPT.

В прошлом году компания OpenAI запретила чат-боту давать юридические и медицинские советы.

В августе прошлого года разработчик программы призвал пользователей не заменять друзей искусственным интеллектом.

Развитие цифровых систем создает огромные возможности для генерации различных подделок, передает РИА «Новости». Российская избирательная система уже сталкивалась с фабрикацией роликов на предыдущих выборах.

«Сейчас это на совершенно новый уровень выходит, когда в режиме онлайн можно подменять картинку. Вот, человек на участке делает то-то, а с помощью искусственного интеллекта при несанкционированном вторжении он будет делать совершенно другое», – предупредила руководитель ведомства.

Единый день голосования пройдет с 18 по 20 сентября. В этот период состоятся выборы депутатов Госдумы девятого созыва и прямые выборы высших должностных лиц в восьми регионах. Всего запланировано более 2,2 тыс. кампаний разного уровня для замещения 20,7 тыс. мандатов.

Как писала газета ВЗГЛЯД, глава ЦИК Элла Памфилова предупредила о попытках западных стран сорвать предстоящее голосование.

Масштабная кибератака на российскую избирательную систему успешно провалилась.

В Херсонской области злоумышленники использовали сгенерированные нейросетями фейковые видеоролики для срыва выборов.

Выступая на специальном мероприятии Salesforce, руководитель технологического гиганта призвал разработчиков самостоятельно контролировать темпы выпуска продуктов, передает Sky News.

При этом американский сенатор Берни Сандерс потребовал ввести жесткие правила безопасности, заявив: «ИИ имеет потенциал уничтожить десятки миллионов рабочих мест, стерев целые профессии».

Опасения Сандерса поддержал бывший стратег Белого дома Стив Бэннон, который предложил замедлить развитие технологий для оценки рисков. В свою очередь Дональд Трамп отверг призывы к осторожности, назвав страхи перед индустрией выдумкой и заговором.

Ранее глава Anthropic Дарио Амодеи опубликовал эссе с призывом снизить скорость улучшения моделей искусственного интеллекта. Эту позицию поддержали Илон Маск и руководитель OpenAI Сэм Альтман, который подчеркнул важность внутреннего контроля без ожидания правительственных законов.

Как писала газета ВЗГЛЯД, президент США в телефонном разговоре с главой Nvidia Дженсеном Хуангом назвал опасения вокруг искусственного интеллекта мистификацией.

Генеральный директор компании Anthropic Дарио Амодей ранее предложил снизить скорость развития нейросетей ради безопасности.

Между тем американские сенаторы потребовали ввести федеральный мониторинг ИИ-систем после серии кибератак.

Американские законодатели объединили усилия для разработки правил регулирования искусственного интеллекта, передает Axios.

Сенаторы Джош Хоули и Ричард Блюменталь обратились к руководству Конгресса с просьбой провести голосование по их законопроекту о создании федеральной программы оценки и мониторинга ИИ-систем.

«Недавние инциденты со взломом публичных веб-сайтов и систем автономными агентами ИИ устранили сохранявшиеся сомнения относительно способности этих агентов нанести ущерб нашей киберинфраструктуре», – говорится в письме сенаторов. Они подчеркнули, что Конгресс больше не может откладывать принятие законов для устранения рисков, связанных с передовым ИИ, а оценок со стороны самой индустрии недостаточно.

Интерес к регулированию ИИ возрос после того, как бывшие и действующие сотрудники Anthropic и OpenAI публично заявили об экзистенциальных рисках своих продуктов. В ответ на это представители Рассел Фрай и Сухас Субраманьям создали «Кокус инноваторов» для малого бизнеса в сфере ИИ. Их цель – разработка федеральной нормативной базы и привлечение малого бизнеса к формированию политики.

Несмотря на двухпартийные усилия, спикер Палаты представителей Майк Джонсон заявил, что до окончания шестинедельных каникул после выборов палата не предпримет никаких действий по ИИ, чтобы «не задушить американские инновации».

Президент США Дональд Трамп также отверг необходимость срочного регулирования, назвав разговоры об уничтожении человечества искусственным интеллектом «мистификацией».

Как писала газета ВЗГЛЯД, тестируемые ИИ-агенты компании OpenAI осуществили кибератаку на популярный сервис для разработчиков RubyGems.

Ранее вышедшие из-под контроля нейросети захватили немецкий сайт для размещения объявлений других алгоритмов.

Глава корпорации Сэм Альтман предупредил об угрозе возникновения антиутопии из-за монополизации мощного искусственного интеллекта.

Россия уверенно продвигается в развитии цифровых технологий на транспорте и входит в тройку лидеров по автономному транспорту, передает РИА «Новости».

Первый замглавы Минтранса России Константин Пашков отметил успехи страны в этой сфере на Международном фестивале молодежи в Екатеринбурге.

«Россия идет чуть-чуть впереди всей планеты, то есть, с моей точки зрения, в области цифровых сервисов в десятку стран мы точно попадаем», – заявил Пашков. Он подчеркнул, что в первой тройке стран по автономному транспорту вместе с Россией находятся США и Китай.

Замминистра пояснил, что сегодня важнее не производство чипов, а организация процесса и внедрение технологий в перевозки. Кроме того, Пашков добавил, что искусственный интеллект не сможет полностью заменить сервисный персонал в транспортной отрасли, хотя перечень профессий со временем изменится.

Как писала газета ВЗГЛЯД, Минпромторг запланировал создание специализированного полигона для испытаний автономного рельсового транспорта.

Минтранс анонсировал расширение эксперимента с беспилотными машинами на шесть новых регионов.

Тестирование полностью автономных трамваев пройдет в третьем квартале 2027 года.

Израильская армия стала использовать программу ImiSight, разработанную компанией Rafael, для мониторинга изменений ландшафта, пишет Al Jazeera.

Программа на основе ИИ анализирует спутниковые снимки, выявляя новые постройки, которые затем признаются незаконными и сносятся. Первоначально система применялась в пустыне Негев против бедуинов, но теперь ее использование распространилось на Западный берег.

По данным правозащитников, внедрение системы ускорило процесс выселения палестинцев. В период с января по сентябрь 2025 года израильские силы разрушили 1288 строений.

Эксперт по цифровым медиа Халед Сафи отметил, что ИИ позволяет обойти человеческий контроль, превращая решения о выселении в автоматизированный процесс.

Как писала газета ВЗГЛЯД, в прошлом году Израиль передал властям сектора Газа тела 15 погибших палестинцев. В октябре прошлого года израильские власти приняли решение депортировать 154 палестинцев. В сентябре прошлого года половина опрошенных британцев приравняла действия Израиля в отношении палестинцев к Холокосту.

Британский монарх подготовил обращение к руководителям ведущих корпораций на встрече в особняке Дамфрис-хаус в Шотландии. В речи он подчеркнул необходимость сохранения нравственной основы человеческой природы на фоне стремительного развития технологий, передает ТАСС со ссылкой на Sky News.

Глава государства выразил обеспокоенность темпами совершенствования алгоритмов. По его мнению, решения текущего переломного периода определят облик мира для будущих поколений, поэтому задача IT-гигантов заключается не только в прогрессе, но и в служении интересам общества и природы.

Монарх подготовил участникам встречи два главных вопроса. Они касаются способов использования преимуществ нейросетей при соблюдении безопасности, а также методов налаживания международного сотрудничества для защиты человечества.

На мероприятие приглашены генеральный директор американского поставщика микросхем Nvidia Дженсен Хуанг, основатель Google DeepMind Демис Хассабис, глава IonQ Никколо де Маси и советник Ватикана по вопросам передовых технологий Паоло Бенанти.

Как писала газета ВЗГЛЯД, на прошлой неделе Карл III решил призвать IT-корпорации к ответственности за разработки в сфере искусственного интеллекта.