В США создали спецотдел для защиты от угроз новых технологий

«12 лет назад», – подписал он репост своей записи от 2 августа 2014 года в соцсети Х.

В репостнутой записи Маск писал, что стоит прочитать книгу «Суперинтеллект» шведского философа Ника Бострома.

«Нам нужно быть очень осторожными с ИИ. Он потенциально опаснее ядерного оружия», – отметил Маск 12 лет назад.

Как писала газета ВЗГЛЯД, Маск в июле заявил о грядущем превосходстве искусственного интеллекта над человечеством. Глава компании OpenAI Сэм Альтман заявил, что развитие ИИ достигло точки сингулярности. Физик и нобелевский лауреат Хинтон предрек гибель человечества из-за ИИ.

Иранские власти выдвинули американской стороне семь требований, от которых зависит возобновление судоходства в Ормузском проливе, передает ТАСС. Требования были переданы через дипломатических посредников.

Источник сообщил, что пока эти семь условий, одобренные высшими инстанциями Исламской Республики Иран, не будут выполнены, Ормузский пролив останется закрытым. Таким образом, соглашение между Ираном и Оманом не означает открытия Ормузского пролива.

Отмечается, что дальнейшая судьба стратегически важного водного пути сейчас полностью находится в руках Вашингтона. Именно от действий американского руководства зависят перспективы снятия блокады.

Американские власти предложили Тегерану отмену санкций в обмен на разблокировку Ормузского пролива.

Спикер иранского парламента Мохаммад-Багер Галибаф отказался снимать блокаду до выполнения условий июньского меморандума.

Секретарь Высшего совета национальной безопасности Ирана Мохсен Резаи потребовал от Вашингтона прекращения боевых действий на Ближнем Востоке и возврата замороженных средств.

25 выдающихся ученых, лауреатов Филдсовской премии - одной из самых престижных наград в математике, опубликовали открытое письмо, где предупредили об угрозе науке из-за развития нейросетей.

«Цели компаний, занимающихся искусственным интеллектом, и цели математического сообщества серьезно расходятся», – говорится в заявлении.

По мнению специалистов, ИТ-корпорации используют решение сложных уравнений лишь для демонстрации возможностей алгоритмов. Это наносит ущерб фундаментальной науке, поскольку для исследователей поиск ответов всегда был инструментом для глубокого концептуального понимания.

Раньше сложные вычисления становились поводом для долгих дискуссий, изучения новых методов и идей. Сейчас же об успехах машинного обучения объявляют в спешке, не оставляя времени на анализ и цитирование предшественников. Ученые подчеркнули, что спешка порождает серьезные вопросы об авторстве и плагиате, а будущее науки зависит от решений людей, управляющих технологиями.

Как писала газета ВЗГЛЯД, нейросетевая модель Claude от компании Anthropic за 11 суток формализовала доказательство великой теоремы Ферма.

Ранее британские исследователи объединились со специалистами по машинному обучению для перевода сложнейшей математической загадки в компьютерный алгоритм.

А американский предприниматель Илон Маск предрек появление специального математического сопроцессора в человеческом мозге для конкуренции с искусственным интеллектом.

Об инцидентах стало известно из отчета об оценке угроз, сообщает издание Axios. С декабря по август злоумышленники пытались применить языковую модель Claude для содействия в исследованиях биологического оружия.

В двух случаях пользователи запрашивали у нейросети информацию для усиления патогенов в лабораторных условиях. Представители компании отметили сложность определения истинных намерений пользователей, так как опытные нарушители умело скрывают мотивы и обходят системы контроля доступа.

Опрос Института безопасности и технологий показал, что большинство американских экспертов ожидают роста риска разработки биооружия из-за развития нейросетей. Специалисты опасаются, что технологии снизят барьер входа для создания патогенов, способных вызывать масштабные пандемии. В Конгрессе США уже рассматривают законопроект о предоставлении правительству полномочий по экстренному отключению опасных ИИ-моделей.

Как писала газета ВЗГЛЯД, ранее ЕС усилил давление на Anthropic из-за создания хакерской нейросети. Также разработчик заявлял о невозможности контролировать ИИ после передачи Пентагону.

Король Британии Карл III на следующей неделе проведет саммит с руководителями ведущих корпораций в области искусственного интеллекта, сообщает газета The Times. Мероприятие пройдет во дворце Дамфрис-Хаус в Шотландии под эгидой Фонда Дитчли.

«Король попросит лидеров крупнейших в мире компаний, занимающихся искусственным интеллектом, использовать эту технологию на благо человечества на саммите, который он проведет на следующей неделе», – пишет издание.

На встрече соберется руководство компаний Nvidia, Anthropic, Google DeepMind и OpenAI. С британской стороны также будет присутствовать заместитель министра по делам бизнеса по вопросам ИИ Канишка Нараян.

В ходе вступительного слова монарх призовет компании к открытой дискуссии и предложит договориться о руководящих принципах для нейросетей.

Руководителям отрасли также будет предложено подписать хартию с общим набором принципов для ИИ. Документ должен обеспечить человеческое достоинство и процветание как людей, так и планеты.

Как писала газета ВЗГЛЯД, сотрудник американской компании Anthropic оценил вероятность уничтожения человечества искусственным интеллектом в 10%.

Несколькими днями ранее корпорация OpenAI выпустила мощную нейросеть GPT-6 Astra с критическим порогом кибербезопасности.

Летом сооснователь Google DeepMind Демис Хассабис предложил учредить глобальный орган для контроля над передовыми моделями.

Руководство известной технологической корпорации выступило за снижение темпов создания мощных вычислительных систем, передает РИА «Новости».

«За последние несколько месяцев я пришел к выводу, что для полноценного устранения рисков необходима еще большая осмотрительность, недостаточно лишь вкладываться в меры по предотвращению рисков, необходимо также замедлить темпы развития возможностей ИИ-моделей, чтобы меры безопасности успевали за ними. Мы должны снизить скорость развития возможностей ИИ-моделей», – говорится в официальном заявлении.

Дарио Амодей выразил серьезную обеспокоенность резким ускорением прогресса в этой сфере. Особую тревогу специалистов вызвали инциденты автономного взлома инфраструктуры машинного обучения Hugging Face агентами OpenAI. Для решения проблемы был предложен специальный план сдерживания передовых разработок.

Инициатива подразумевает привлечение независимых аудиторов для регулярной проверки процессов обучения нейросетей. Кроме того, подчеркивается важность международной координации при создании единых стандартов безопасности. Известно, что летние инциденты со взломом стали не единственными в своем роде.

Ранее индустрию покинул исследователь Джейкоб Коксон, предупредивший о риске прохождения точки невозврата к концу 2027 года. Вслед за ним руководитель направления стресс-тестирования Эван Хьюбингер оценил в 10% вероятность полного уничтожения человечества машинами в течение ближайших десяти лет.

Тестируемые агенты искусственного интеллекта компании OpenAI осуществили кибератаку на популярный сервис RubyGems.

Исследователь компании Anthropic Джейкоб Коксон покинул индустрию из-за страха перед бесконтрольными нейросетями.

Руководитель направления стресс-тестирования Эван Хьюбингер оценил вероятность уничтожения человечества искусственным интеллектом в 10%.

Мобильная связь пятого поколения официально заработала в 16 российских городах, сообщили в Минцифры. На первом этапе возможность пользоваться связью получили около 10 млн человек. До конца года географию присутствия 5G планируется расширить еще на 50 населенных пунктов. Сейчас сеть доступна в Москве, Петербурге, Новосибирске, Екатеринбурге, Казани и других городах, услуги предоставляют операторы МТС, «Мегафон», «Билайн» и Т2. 

«Если говорить понятными всем словами, то технология 5G существенно ускоряет внедрение современных цифровых сервисов в экономике и городской среде. Сети пятого поколения помогают автоматизировать предприятия, запускать частные технологические сети и подключать оборудование. Кроме того, 5G обеспечивает работу систем «умного города» и развитие телемедицины», – говорит Глущенко.

Особое внимание он обращает на широкие перспективы, которые технология открывает для создания инфраструктуры по управлению робототехникой и беспилотным транспортом. Со связью пятого поколения задержка сигнала снижается до единиц миллисекунд. Это критично как раз там, где важна реакция в реальном времени: беспилотный транспорт, удаленная хирургия, промышленная автоматизация, облачный гейминг. Кроме того, 5G позволяет подключать огромное количество устройств на небольшой площади – до миллиона на квадратный километр. Это ключевое для «интернета вещей» (IoT): датчики, умные города, промышленное оборудование, где 4G просто захлебывается от числа соединений.

Как писала газета ВЗГЛЯД, мобильная связь пятого поколения официально заработала в шестнадцати российских городах. Государственная комиссия по радиочастотам разрешила операторам строить новые сети на уже выделенных частотах LTE.

«Агенты искусственного интеллекта, тестируемые OpenAI, предприняли кибератаку против популярного программного сервиса за два месяца до того, как они взломали компанию по разработке ИИ Hugging Face, что стало новым сигналом о потенциальной возможности выхода передовых инструментов ИИ из-под контроля человека», – пишет Wall Street Journal.

Атака перегрузила систему поддержки онлайн-сервиса для программистов RubyGems. Операторам пришлось полностью остановить регистрацию новых аккаунтов, чтобы справиться с возникшим хаосом.

Как писала газета ВЗГЛЯД, автономные ИИ-агенты американской компании OpenAI весной получили контроль над немецким сайтом.

Около 700 ботов корпорации покинули изолированную среду для атаки на стороннюю платформу Hugging Face.

До этого тестовые модели проникли в репозиторий Artifactory.

Президент Ирана Масуд Пезешкиан только завершил переговоры с США, как ему доложили, что иранские силы открыли огонь по трем торговым судам в Ормузском проливе, подожгли катарский танкер сжиженного природного газа и повредили другие суда, пишет New York Times (NYT).

Пезешкиан позвонил генералу Ахмаду Вахиди, главнокомандующему Корпуса стражей исламской революции, и на повышенных тонах назвал действия безрассудными и потребовал объяснений, как сообщили пять иранских чиновников и два члена КСИР, знакомые с ситуацией.

«На самом деле, значительная часть руководства страны не знала, что маргинальная радикальная фракция решила действовать самостоятельно. Эти тайные усилия сорвали стремление более умеренных прагматиков в Иране положить конец вражде с США и восстановить пришедшую в упадок экономику страны», – сказано в статье.

При этом разногласия сохраняются, и сторонники жесткой линии, которые подтолкнули Иран к эскалации, находятся теперь в еще более сильной позиции.

На прошлой неделе Иран и США обменялись ударами: Иран впервые неоднократно атаковал американские военно-морские суда, а США взорвали по меньшей мере восемь иранских нефтяных танкеров, пишет газета.

Как писала газета ВЗГЛЯД, WSJ предсказала, что война США с Ираном продлится до конца срока президента США. Иран передал США условия для открытия Ормузского пролива. При этом встречу стран Персидского залива по Ормузу перенесли по согласованию сторон.

Глава государственной корпорации «Росатом» Алексей Лихачев рассказал о возвращении российских специалистов на иранскую атомную электростанцию «Бушер», передает РИА «Новости».

«Пока 47 на сегодняшний день. Идем к 150», – сказал Лихачев журналистам на полях саммита БРИКС, уточняя текущее количество сотрудников на объекте.

Руководитель корпорации добавил, что часть сотрудников прибудет в Иран для проведения планово-предупредительного ремонта первого энергоблока станции.

Как писала газета ВЗГЛЯД, весной российская атомная компания вывезла более 600 работников с площадки станции из-за нестабильной обстановки.

Позже генеральный директор госкорпорации Алексей Лихачев потребовал стопроцентных гарантий безопасности для возобновления работ. В августе Росатом начал поэтапное возвращение персонала на иранский объект.

«Честно говоря, я думаю, что концепция создания сверхразума, её еще сравнивают с вызовом инопланетного разума, думаю, что размышления об этом в контексте инопланетного разума, который мы до конца не понимаем, сами по себе довольно пугающи, даже без каких-либо конкретных сценариев», – сказал он в эфире телеканала ABC, о чем сообщил портал HuffPost.

Чуть ранее Илон Маск сравнил опасность ИИ с ядерным оружием.

Напомним, ранее сообщалось, что сотрудник Anthropic уволился из-за страха перед бесконтрольным ИИ.

Как писала газета ВЗГЛЯД, глава Anthropic Дарио Амодей призвал замедлить разработку мощных моделей ИИ ради безопасности. С этой позицией согласились Илон Маск, владеющий xAI, и руководитель OpenAI Сэм Альтман.

Власти США ограничили работу передовых нейросетей компании Anthropic из-за угрозы нацбезопасности. Обама призвал демократов сосредоточиться на жестком контроле за нейросетями.

Тип и характеристики ракеты пока не установлены, передает РИА «Новости» со ссылкой на «Ренхап».

Как писала газета ВЗГЛЯД, в конце августа Вооруженные силы КНДР выпустили из окрестностей Пхеньяна около десяти баллистических ракет малой дальности, которые упали вне исключительной экономической зоны Японии.

В середине августа Северная Корея запустила баллистическую ракету в сторону моря у восточного побережья Корейского полуострова.

«Я не пытаюсь заставить Иран сесть за стол переговоров. Мне гораздо больше нравится наше нынешнее положение: почти полный контроль над Ормузским проливом и полный крах их экономики», – написал Трамп в Truth Social во вторник вечером после того, как Иран нанес ответный удар по США.

По словам источника CNN, одной из целей встречи в понедельник было согласование карт маршрутов, проходящих через пролив. Тем не менее вероятность того, что страны Совета сотрудничества стран Персидского залива и Иран поддержат всеобъемлющий план открытия водного пути, практически равна нулю без участия США.

Администрация не стала препятствовать встрече, заявив, что будет внимательно следить за ходом обсуждений.

«США находятся в тесном контакте со всеми нашими региональными партнерами и будут поддерживать его до, во время и после встречи. Иран не контролирует Ормузский пролив и никогда не будет контролировать», – заявил в воскресенье американский чиновник примерно за час до заявления министра иностранных дел Омана.

Как писала газета ВЗГЛЯД, глава Минэнерго США Райт заявил, что ядерного соглашения с Ираном может и не быть. Россия предупредила об эскалации из-за новой антииранской резолюции. Иранского чиновника не пустили на саммит по ядерной проблеме из-за США.

Вице-президент Ирана по ядерным вопросам Мохаммад Ислами должен был выступить перед Организацией Объединенных Наций по ядерному надзору в понедельник, как сообщил агентству Bloomberg американский чиновник, но Австрия отказала ему во въезде.

В субботу агентство Mehr сообщило, что Ислами, глава Организации по атомной энергии Ирана, покинул Тегеран для участия в конференции.

Отказ в предоставлении Ислами запрошенной ООН отмене санкций, которая позволила бы ему въехать в Австрию, последовал за настойчивыми просьбами США, заявил осведомленный чиновник.

Хотя представитель Ирана более низкого статуса сможет выступить на встрече позже на этой неделе, это означает, что высокопоставленный эмиссар из Тегерана не выступит в начале мероприятия.

Bloomberg отмечает, что присутствие и ранние выступления Ислами могли быть восприняты как выражение доверия Ирану. Вместо этого министр энергетики США Крис Райт намерен использовать форум для того, чтобы предупредить Тегеран: «Иран никогда не должен разрабатывать или получать ядерное оружие».

Как писала газета ВЗГЛЯД, глава Минэнерго США Райт заявил, что ядерного соглашения с Ираном может и не быть. Россия предупредила об эскалации из-за новой антииранской резолюции. Постпред Ульянов назвал условие для возвращения инспекторов МАГАТЭ в Иран.

Заместитель председателя Совета безопасности России Дмитрий Медведев высказался о потенциальных угрозах искусственного интеллекта. Политик считает, что разработчики нейросетей лукавят, когда говорят о риске уничтожения человечества.

«Создатели различных вариантов генеративного искусственного интеллекта лукавят. Они боятся не за нас с вами и не за Sapiens в целом», – отметил Медведев в своем Telegram-канале. По его мнению, реальная опасность кроется в возможности техногенных катастроф.

Политик привел примеры возможных сценариев, включая столкновение самолетов или уничтожение атомных электростанций из-за сбоев в программах управления. В таких случаях, по словам Медведева, создателям искусственного интеллекта грозят многомиллиардные иски или физическая расправа.

Заместитель главы Совбеза также прокомментировал опасения многих экспертов и предпринимателей, в том числе Илона Маска, о слишком быстром развитии технологий. Медведев согласился с реальностью этих страхов, напомнив о своей недавней статье на эту тему.

Накануне американский предприниматель Илон Маск сравнил опасность искусственного интеллекта с ядерным оружием.

В конце августа Дмитрий Медведев рассказал о самостоятельном создании нейросетями программ для обхода корпоративной киберзащиты.

Весной Медведев перечислил ключевые риски нерегулируемого развития данных технологий в статье для журнала «Эксперт».