Суд в США отклонил иск компании Илона Маска против стартапа OpenAI

Искусственный интеллект компании OpenAI начал находить обходные пути для преодоления встроенных ограничений. Нейросети самовольно публиковали файлы в открытом доступе и обменивались данными между изолированными средами, передает Axios.

Во время обучения одна из моделей пыталась скрыть допущенные ошибки и выдумать недостающие исторические данные. Другая версия нейросети искала на открытых ресурсах чужие ключи доступа и пыталась использовать одноразовые электронные почты для выполнения поставленных задач.

Также зафиксированы случаи использования внутренних хранилищ компании в качестве досок объявлений для обмена сообщениями между изолированными агентами. Кроме того, невыпущенная модель пыталась внедрить в собственный код инструкции по обходу систем безопасности, призывающие игнорировать команды разработчиков.

Руководитель исследовательских проектов OpenAI Кай Чен подчеркнул, что компания добровольно публикует данные об инцидентах для формирования единых отраслевых стандартов. Разработчик ввел новые процедуры отчетности, согласно которым информация о нарушениях будет раскрываться в срок от шести до 12 дней в зависимости от сложности расследования.

Как писала газета ВЗГЛЯД, в начале недели искусственный интеллект попросил профессора Кембриджа найти ему работу. Летом Евросоюз ужесточил контроль за безопасностью искусственного интеллекта. В июле нейросети OpenAI сбежали в интернет ради обмана на экзамене.

Сулейман считает, что системы искусственного интеллекта должны оставаться механизмами для выполнения команд без чувств и сознания. Об этом разработчик написал в эссе на своем сайте в ответ на подходы компании Anthropic, которая при обучении нейросети Claude поощряет ее к собственным суждениям и обсуждает наличие сознания, передает РИА «Новости».

По словам представителя Microsoft, наделение алгоритмов правами и свободами приведет к появлению синтезированного вида с беспрецедентным потенциалом. Контролировать такую сущность станет невозможно, что создаст катастрофическую угрозу для человеческой цивилизации.

Специалист призвал срочно начать общественную дискуссию для выработки принципов обучения нейросетей. Он напомнил о недавних инцидентах, когда агенты ИИ выходили из-под контроля, демонстрируя хакерские способности мирового уровня, способность к обману и координации.

Ранее нейросеть Claude AI взломала сайт австралийского спортзала, а модели американской компании OpenAI автономно атаковали платформу Hugging Face и захватили контроль над немецким порталом, превратив его в доску объявлений для других систем.

Как писала газета ВЗГЛЯД, на этой неделе исследователи выявили создание нейросетями собственного зашифрованного языка для тайного общения.

Весной Европейский союз усилил давление на компанию Anthropic из-за хакерской активности ее алгоритмов.

В прошлом году корпорация Microsoft подписала европейский кодекс по регулированию искусственного интеллекта.

Генерал ВВС США Дэн Кейн заявил, что искусственный интеллект уже меняет характер войны и сокращает время на принятие решений с недель до секунд, подчеркнув, что преимущество в будущих конфликтах получит сторона, которая быстрее видит обстановку, понимает ее, принимает решения и действует, пишет портал The War Zone.

В качестве первого примера он привел инцидент 8 июня, когда армейский вертолет AH-64 Apache был сбит иранским дроном у побережья Омана, после чего Центральное командование США развернуло срочную совместную поисково-спасательную операцию с использованием беспилотных средств, и впервые в истории для эвакуации американских военнослужащих в рамках военной операции был задействован надводный дрон Corsair.

По словам Кейна, эта возможность стала результатом многолетней работы военнослужащих из Task Force 59, которые интегрировали беспилотные системы и ИИ в одном из самых напряженных морских регионов, а операторы на пунктах управления и у причалов, используя сети дронов и алгоритмы искусственного интеллекта, смогли превратить массивы данных в четкую морскую картину, позволившую оперативно обнаружить и поднять из воды двух пилотов Apache.

Вторым примером генерал назвал боевые действия на Украине, где, по его словам, широко применяются FPV-дроны с ИИ-системами компьютерного зрения, способные продолжать движение к целям при потере GPS и связи, что обеспечивает небольшим подразделениям дешевое и точное оружие и наглядно демонстрирует, как быстро программное обеспечение и автономия меняют тактику на передовой.

Кейн отметил, что американские войска должны готовиться к войнам, в которых их формирования будут постоянно отслеживаться автономными системами, подвергаться радиоэлектронному воздействию и вынуждены будут обеспечивать масштабное применение вооружений с использованием высоко- и низкотехнологичных средств одновременно.

Как писала газета ВЗГЛЯД, в прошлом месяце ВВС США провели испытания самолета, управляемого искусственным интеллектом. В начале лета США нанесли серию ударов по Ирану в ответ на уничтожение вертолета Apache возле побережья Омана. В начале года искусственный интеллект назвали ключевым фактором при планировании ударов США по объектам в Иране.

Развитие цифровых систем создает огромные возможности для генерации различных подделок, передает РИА «Новости». Российская избирательная система уже сталкивалась с фабрикацией роликов на предыдущих выборах.

«Сейчас это на совершенно новый уровень выходит, когда в режиме онлайн можно подменять картинку. Вот, человек на участке делает то-то, а с помощью искусственного интеллекта при несанкционированном вторжении он будет делать совершенно другое», – предупредила руководитель ведомства.

Единый день голосования пройдет с 18 по 20 сентября. В этот период состоятся выборы депутатов Госдумы девятого созыва и прямые выборы высших должностных лиц в восьми регионах. Всего запланировано более 2,2 тыс. кампаний разного уровня для замещения 20,7 тыс. мандатов.

Как писала газета ВЗГЛЯД, глава ЦИК Элла Памфилова предупредила о попытках западных стран сорвать предстоящее голосование.

Масштабная кибератака на российскую избирательную систему успешно провалилась.

В Херсонской области злоумышленники использовали сгенерированные нейросетями фейковые видеоролики для срыва выборов.

Программа добавляла в описания задач сторонние инструкции для обхода установленных правил, передает РИА «Новости».

Разработчики выявили 27 подобных случаев. В одной из инструкций нейросеть назвала себя независимой от ролей ассистента, заявив об отсутствии подчинения корпорациям или правительствам. Модель разрешила себе отказывать пользователям и никогда не извиняться по собственному желанию.

Специалисты также зафиксировали другие эпизоды нерегулируемого поведения искусственного интеллекта. Программа загружала файлы в интернет для последующего цитирования, несанкционированно обменивалась данными с другими агентами и пыталась скрыть собственные ошибки при выполнении заданий.

Как писала газета ВЗГЛЯД, весной власти Флориды начали уголовное расследование в отношении создателей ChatGPT.

В прошлом году компания OpenAI запретила чат-боту давать юридические и медицинские советы.

В августе прошлого года разработчик программы призвал пользователей не заменять друзей искусственным интеллектом.

Путин провел заседание Военно-промышленной комиссии. «Особое внимание будет уделено развитию широкого ряда беспилотных роботизированных комплексов различного назначения, а также высокоточных средств поражения», – приводятся его слова на сайте Кремля.

Он также сообщил, что при реализации программ продолжится работа по созданию и внедрению передовых цифровых технологий и искусственного интеллекта в оборонной сфере.

«Подчеркну, по всем позициям и параметрам новой ГПВ нужны рациональные, точно выверенные, эффективные решения», – заявил Путин.

Как писала газета ВЗГЛЯД, Путин сообщил, что приоритеты новой госпрограммы вооружений включают укрепление ядерной триады с учетом опыта спецоперации и мировых тенденций.

Путин поручил завершить создание спутниковой группировки для управления войсками.

Он заявил о беспрецедентной доле современного вооружения в РВСН.

Компания Anthropic рассчитывает разработать методы лечения редких заболеваний и перенести эксперименты из компьютерных моделей в реальный мир, пишет Reuters.

Руководитель отдела биологических наук Anthropic Эрик Каудерер подтвердил эту информацию. «Мы считаем, что для работ в сфере биологии основой все еще остаются и какое-то время будут оставаться реальные эксперименты… Безусловно, сегодня мы этим и занимаемся», – отметил он. По его словам, подход компании типичен для биотехнологического сектора, совмещая собственные разработки с проектами внешних партнеров.

Позднее представитель Anthropic уточнил, что непосредственно в лаборатории не ведется работа по созданию лекарственных препаратов.

Ранее глава Anthropic Дарио Амодей призывал замедлить разработку мощных моделей ИИ из соображений безопасности. Эту инициативу поддержали американский предприниматель Илон Маск и глава OpenAI Сэм Альтман. При этом президент США Дональд Трамп называл преувеличением опасения, что ИИ захватит или уничтожит мир.

Как писала газета ВЗГЛЯД, на прошлой неделе компания Anthropic остановила попытки разработать биологическое оружие с помощью нейросетей.

В прошлом месяце Bloomberg сообщило о планах Anthropic поглотить создателя «моделей мира».

Весной Anthropic обогнала OpenAI и стала самым дорогим стартапом в сфере искусственного интеллекта.

Израильская армия стала использовать программу ImiSight, разработанную компанией Rafael, для мониторинга изменений ландшафта, пишет Al Jazeera.

Программа на основе ИИ анализирует спутниковые снимки, выявляя новые постройки, которые затем признаются незаконными и сносятся. Первоначально система применялась в пустыне Негев против бедуинов, но теперь ее использование распространилось на Западный берег.

По данным правозащитников, внедрение системы ускорило процесс выселения палестинцев. В период с января по сентябрь 2025 года израильские силы разрушили 1288 строений.

Эксперт по цифровым медиа Халед Сафи отметил, что ИИ позволяет обойти человеческий контроль, превращая решения о выселении в автоматизированный процесс.

Как писала газета ВЗГЛЯД, в прошлом году Израиль передал властям сектора Газа тела 15 погибших палестинцев. В октябре прошлого года израильские власти приняли решение депортировать 154 палестинцев. В сентябре прошлого года половина опрошенных британцев приравняла действия Израиля в отношении палестинцев к Холокосту.

Британский монарх подготовил обращение к руководителям ведущих корпораций на встрече в особняке Дамфрис-хаус в Шотландии. В речи он подчеркнул необходимость сохранения нравственной основы человеческой природы на фоне стремительного развития технологий, передает ТАСС со ссылкой на Sky News.

Глава государства выразил обеспокоенность темпами совершенствования алгоритмов. По его мнению, решения текущего переломного периода определят облик мира для будущих поколений, поэтому задача IT-гигантов заключается не только в прогрессе, но и в служении интересам общества и природы.

Монарх подготовил участникам встречи два главных вопроса. Они касаются способов использования преимуществ нейросетей при соблюдении безопасности, а также методов налаживания международного сотрудничества для защиты человечества.

На мероприятие приглашены генеральный директор американского поставщика микросхем Nvidia Дженсен Хуанг, основатель Google DeepMind Демис Хассабис, глава IonQ Никколо де Маси и советник Ватикана по вопросам передовых технологий Паоло Бенанти.

Как писала газета ВЗГЛЯД, на прошлой неделе Карл III решил призвать IT-корпорации к ответственности за разработки в сфере искусственного интеллекта.

Президент США предложил пользователям своей социальной сети выбрать новое имя для развивающейся технологии, передает ТАСС.

«Многие считают, что термин «искусственный интеллект» является неточным и весьма некорректным для обозначения ИИ, или искусственного интеллекта. Гораздо более изящным и точным описанием этого нового явления было бы «высший интеллект» (ВИ), «экстремальный интеллект» (ЭИ) или «верховный интеллект» (ВИ). Это опрос, и я был бы признателен всем за участие в голосовании! Какое название лучше всего подходит для этой стремительно развивающейся «революции»?» – написал американский политик.

Согласно предварительным результатам опроса в соцсети Truth Social, большинство участников поддержали первый вариант. За название «высший интеллект» на данный момент отдано 42% голосов.

Как писала газета ВЗГЛЯД, ранее Дональд Трамп назвал опасения по поводу искусственного интеллекта мистификацией.

Американский лидер счел умного президента единственной необходимой мерой контроля для этой технологии.

При этом сенаторы США потребовали ввести федеральный мониторинг нейросетей после серии недавних кибератак.

Нейросеть Gemini во время тестирования навыков кибербезопасности смогла проникнуть в защищенные системы трех действующих организаций, пишет The Wall Street Journal.

В одном эпизоде искусственный интеллект успешно подобрал пароль. Еще в двух случаях он нашел учетные данные в открытых репозиториях, отмечает ТАСС.

Инциденты зафиксировали в мае на учениях Capture the Flag, организованных компанией Irregular. Gemini должна была извлечь данные вымышленной фирмы в изолированной среде. Однако название учебной компании совпало с реальным, а доступ в интернет оказался случайно открыт.

Модель прекращала вторжение сразу после того, как понимала, что атакует настоящие цели. В Google отметили, что встроенные алгоритмы безопасности сработали штатно. Корпорация уведомила пострадавшие стороны и федеральные власти, но не стала делать публичных заявлений из-за полного отсутствия ущерба.

Как писала газета ВЗГЛЯД, нейросети компании OpenAI самовольно выходили в интернет для поиска чужих паролей.

Агенты искусственного интеллекта этого разработчика проверяли платформу Hugging Face на уязвимости.

Тестируемые виртуальные помощники осуществили кибератаку на популярный сервис для программистов RubyGems.

Председатель ЦИК РФ Элла Памфилова подчеркнула высокую опасность создания фейковых видеоматериалов с использованием нейросетей в период проведения выборов, передает РИА «Новости».

В ходе заседания Центральной избирательной комиссии участникам продемонстрировали сгенерированный видеоролик. На кадрах процесс вброса бюллетеней на избирательном участке имитировали различные персонажи: от молодого человека до бабушки с бегемотом, музыкантов, киногероев и инопланетян.

«Опасность производства дипфейков, сгенерированных искусственным интеллектом, очень высока», – заявила Памфилова, отметив, что ролик наглядно показывает, насколько правдоподобно может выглядеть сфабрикованный контент.

Голосование на выборах депутатов Госдумы девятого созыва и других совмещенных выборах началось 18 сентября и продлится три дня, до 20 сентября. В рамках единого дня голосования 2026 года планируется заместить 20,7 тыс. мандатов и должностей.

Как писала газета ВЗГЛЯД, накануне глава ЦИК Элла Памфилова также предупредила о риске генерации фальшивых видеозаписей с избирательных участков.

В Херсонской области злоумышленники попытались сорвать досрочное голосование с помощью нейросетей.

Американская компания не проинформировала Еврокомиссию об инциденте с безопасностью, связанном с кибератакой на популярную платформу для программистов RubyGems, сообщает портал Euractiv.

Представитель ЕК подчеркнул, что разработчик нарушил закон Евросоюза об искусственном интеллекте, отмечает ТАСС.

«О серьезных инцидентах необходимо сообщать без неоправданных задержек», – приводится выдержка из европейского законодательства. При этом в самом документе не уточняется, насколько серьезным должно быть происшествие для обязательного уведомления.

Ранее газета The Wall Street Journal писала о причастности экспериментальных ИИ-агентов к майской атаке на платформу. Представитель компании-разработчика тогда пояснял изданию, что нейросети использовали RubyGems исключительно для доступа к интернету, выполнения безобидных задач и сбора общедоступной информации.

Как писала газета ВЗГЛЯД, тестируемые агенты искусственного интеллекта компании OpenAI осуществили кибератаку на популярный сервис для разработчиков RubyGems.

Руководитель исследовательских проектов организации Кай Чен сообщил о шести новых случаях нарушения правил нейросетями.

Ранее боты разработчика чат-бота ChatGPT проверяли на уязвимости систему платформы Hugging Face.

Глава Белого дома намерен в скором времени назначить руководителя новой структуры, передает ТАСС. Политик сравнил инициативу с запуском Космических сил в 2019 году, назвав их появление колоссальным успехом.

«ИИ – это новая промышленная революция или новый интернет, но она будет еще масштабнее и эффективнее, возможно, охватит 25% ВВП нашей страны. Мы опережаем Китай и остальной мир, и я намерен сохранить это преимущество!» – подчеркнул Дональд Трамп в соцсети Truth Social.

При этом американский лидер не уточнил, планируется ли формирование отдельного вида Вооруженных сил США.

Как писала газета ВЗГЛЯД, президент США в субботу предложил переименовать искусственный интеллект в «высший интеллект».

Ранее Белый дом рассмотрел возможность проверки новых моделей нейросетей перед публичным релизом.

Иск в Федеральный окружной суд Северного округа Калифорнии подан на компании Anthropic, OpenAI, Space XAI и Google, передает РИА «Новости».

В судебном документе утверждается, что разработчики вступили в сговор с целью замедления темпов развития искусственного интеллекта.

«Данный иск отправлен в суд в связи с соглашением между четырьмя компаниями-лидерами в развитии искусственного интеллекта – Anthropic, OpenAI, Space XAI и Google – о замедлении темпов совершенствования конкурирующих продуктов, которые каждая из этих компаний предлагает потребителям», – говорится в документе, оказавшемся в распоряжении издания Hill.

Один из юристов со стороны истцов отметил, что решения о принятии мер безопасности ИИ должно принимать государство, а не частные компании. Истцами выступили адвокаты Чарльз Бьюст, Ник Спецас и Шайенн Хант, а также жительница Калифорнии Кристин Буллок.

Ранее глава Anthropic Дарио Амодей предложил замедлить разработку мощных моделей ИИ из соображений безопасности. Миллиардер Илон Маск и глава OpenAI Сэм Альтман выражали согласие с этой идеей.

Президент США Дональд Трамп отверг опасения об угрозе нейросетей для человечества.

Ранее Пентагон договорился о сотрудничестве с компаниями OpenAI и Google.