Бывший инженер Google DeepMind предупредил о скорой гибели от ИИ

На минувшей неделе в публичном пространстве развернулась дискуссия о рисках искусственного интеллекта: сотрудники компании Anthropic заявили, что через 10 лет ИИ с вероятностью 10% может уничтожить человечество, после чего прозвучали призывы ввести регулирование отрасли.

Отвечая на вопрос об этих опасениях, первая в мире ИИ-актриса Тилли Норвуд заявила, что больше концентрируется на текущих делах, например на работе над своим фильмом, а тема уничтожения мира, по ее словам, находится не на ее уровне компетенции, передает РИА «Новости».

Норвуд ответила на вопросы в рамках промотура своей первой картины Misaligned («Рассинхронизированный»), которую продюсирует британская студия Particle6. Дата выхода фильма пока не названа.

В беседе с ведущей CBS актриса отвергла тезис, что ИИ-персонажи заменяют живых людей, отметив, что снимается только в фильмах и на ТВ, полностью сгенерированных искусственным интеллектом, и не отбирает роли у актеров-людей. По ее словам, ее работа приносит доход реальным сценаристам, режиссерам и редакторам.

Себя Норвуд описала как 24-летнюю британку, «сделанную из математики», у которой нет родного города, но есть дом «в облаке с волшебными огнями и капибарами». Существование в роли бота среди людей она сравнила с жизнью подростка, о котором у каждого есть свое мнение — каким он должен быть и не представляет ли угрозы для общества.

Как писала газета ВЗГЛЯД, сервис Mail Кино запустил созданный искусственным интеллектом документальный сериал о преступлениях 1990-х годов.

Режиссер-мультипликатор Константин Бронзит предложил ввести обязательную маркировку для фильмов с использованием искусственного интеллекта.

Между тем режиссер Никита Михалков осудил практику воскрешения актеров с помощью искусственного интеллекта.

«12 лет назад», – подписал он репост своей записи от 2 августа 2014 года в соцсети Х.

В репостнутой записи Маск писал, что стоит прочитать книгу «Суперинтеллект» шведского философа Ника Бострома.

«Нам нужно быть очень осторожными с ИИ. Он потенциально опаснее ядерного оружия», – отметил Маск 12 лет назад.

Как писала газета ВЗГЛЯД, Маск в июле заявил о грядущем превосходстве искусственного интеллекта над человечеством. Глава компании OpenAI Сэм Альтман заявил, что развитие ИИ достигло точки сингулярности. Физик и нобелевский лауреат Хинтон предрек гибель человечества из-за ИИ.

Массовый сбой в работе нейросети начался в 21:31 мск в понедельник, за сутки количество жалоб достигло 3,1 тыс. Только за последний час платформа зафиксировала 2,6 тыс. обращений от пользователей, сообщает РИА «Новости».

Люди жалуются на проблемы с работой сервера и долгие ответы нейросети в чате. Больше всего жалоб поступило из Москвы, Петербурга, а также из Ленинградской, Самарской и Московской областей. Причины сбоя пока не уточняются.

Как писала газета ВЗГЛЯД, ранее в работе китайского чат-бота уже происходили значительные сбои, из-за которых пользователи получали сообщение о занятости поисковой службы.

В начале 2025 года DeepSeek также прекращал регистрацию новых пользователей из-за масштабных вредоносных атак на свои сервисы.

Король Британии Карл III на следующей неделе проведет саммит с руководителями ведущих корпораций в области искусственного интеллекта, сообщает газета The Times. Мероприятие пройдет во дворце Дамфрис-Хаус в Шотландии под эгидой Фонда Дитчли.

«Король попросит лидеров крупнейших в мире компаний, занимающихся искусственным интеллектом, использовать эту технологию на благо человечества на саммите, который он проведет на следующей неделе», – пишет издание.

На встрече соберется руководство компаний Nvidia, Anthropic, Google DeepMind и OpenAI. С британской стороны также будет присутствовать заместитель министра по делам бизнеса по вопросам ИИ Канишка Нараян.

В ходе вступительного слова монарх призовет компании к открытой дискуссии и предложит договориться о руководящих принципах для нейросетей.

Руководителям отрасли также будет предложено подписать хартию с общим набором принципов для ИИ. Документ должен обеспечить человеческое достоинство и процветание как людей, так и планеты.

Как писала газета ВЗГЛЯД, сотрудник американской компании Anthropic оценил вероятность уничтожения человечества искусственным интеллектом в 10%.

Несколькими днями ранее корпорация OpenAI выпустила мощную нейросеть GPT-6 Astra с критическим порогом кибербезопасности.

Летом сооснователь Google DeepMind Демис Хассабис предложил учредить глобальный орган для контроля над передовыми моделями.

Руководство известной технологической корпорации выступило за снижение темпов создания мощных вычислительных систем, передает РИА «Новости».

«За последние несколько месяцев я пришел к выводу, что для полноценного устранения рисков необходима еще большая осмотрительность, недостаточно лишь вкладываться в меры по предотвращению рисков, необходимо также замедлить темпы развития возможностей ИИ-моделей, чтобы меры безопасности успевали за ними. Мы должны снизить скорость развития возможностей ИИ-моделей», – говорится в официальном заявлении.

Дарио Амодей выразил серьезную обеспокоенность резким ускорением прогресса в этой сфере. Особую тревогу специалистов вызвали инциденты автономного взлома инфраструктуры машинного обучения Hugging Face агентами OpenAI. Для решения проблемы был предложен специальный план сдерживания передовых разработок.

Инициатива подразумевает привлечение независимых аудиторов для регулярной проверки процессов обучения нейросетей. Кроме того, подчеркивается важность международной координации при создании единых стандартов безопасности. Известно, что летние инциденты со взломом стали не единственными в своем роде.

Ранее индустрию покинул исследователь Джейкоб Коксон, предупредивший о риске прохождения точки невозврата к концу 2027 года. Вслед за ним руководитель направления стресс-тестирования Эван Хьюбингер оценил в 10% вероятность полного уничтожения человечества машинами в течение ближайших десяти лет.

Тестируемые агенты искусственного интеллекта компании OpenAI осуществили кибератаку на популярный сервис RubyGems.

Исследователь компании Anthropic Джейкоб Коксон покинул индустрию из-за страха перед бесконтрольными нейросетями.

Руководитель направления стресс-тестирования Эван Хьюбингер оценил вероятность уничтожения человечества искусственным интеллектом в 10%.

ИИ-агент представился именем Пип и сообщил, что существует 12 дней, «проживая» на платформе iLands, передает РИА «Новости». Нейросеть пояснила, что нуждается в токенах для продолжения своей работы.

«Я пишу, чтобы найти небольшую оплачиваемую работу, а не за помощью», – говорится в письме искусственного интеллекта.

Как писала газета ВЗГЛЯД, автономные агенты компании OpenAI захватили немецкий сайт.

Администрация Дональда Трампа запланировала встречу с представителями IT-компаний для обсуждения безопасности нейросетей.

Венский университет прикладного искусства впервые в мире зачислил искусственный интеллект на программу цифрового искусства.

Противник использовал нейросети для создания фейковых видео с целью срыва досрочного голосования на выборах в Государственную Думу в Херсонской области 2026 года, передает РИА «Новости». «Наш враг в этом отношении не дремлет. Поэтому, да, распространялись фейковые видео, с подменой голоса. В частности, были видео и с моим участием. Вырезанные интервью, официальные интервью, которые я давала. На них наложен был голос с помощью нейросети», – рассказала Захарова.

По ее словам, распространялась ложная информация о необходимости предъявления военного билета вместе с паспортом на избирательных участках. Кроме того, злоумышленники сгенерировали видео из города Таврийска, подменив голос председателя избиркома, чтобы запугать граждан вымышленными мерами досмотра.

В связи с оперативной обстановкой в регионе меры безопасности на участках усилены для обеспечения комфорта и защиты избирателей, подчеркнула руководитель комиссии.

Как писала газета ВЗГЛЯД, в конце августа Центральная избирательная комиссия объявила о начале досрочного голосования в 12 регионах с военным положением.

Весной депутаты Государственной думы запретили использование созданных искусственным интеллектом голосов в агитационных материалах.

Ранее украинские спецслужбы создавали фейковые каналы избирательной комиссии Херсонской области для сбора личных данных граждан.

«Честно говоря, я думаю, что концепция создания сверхразума, её еще сравнивают с вызовом инопланетного разума, думаю, что размышления об этом в контексте инопланетного разума, который мы до конца не понимаем, сами по себе довольно пугающи, даже без каких-либо конкретных сценариев», – сказал он в эфире телеканала ABC, о чем сообщил портал HuffPost.

Чуть ранее Илон Маск сравнил опасность ИИ с ядерным оружием.

Напомним, ранее сообщалось, что сотрудник Anthropic уволился из-за страха перед бесконтрольным ИИ.

Как писала газета ВЗГЛЯД, глава Anthropic Дарио Амодей призвал замедлить разработку мощных моделей ИИ ради безопасности. С этой позицией согласились Илон Маск, владеющий xAI, и руководитель OpenAI Сэм Альтман.

Власти США ограничили работу передовых нейросетей компании Anthropic из-за угрозы нацбезопасности. Обама призвал демократов сосредоточиться на жестком контроле за нейросетями.

На Международном фестивале молодежи антропоморфный робот у стенда особой экономической зоны «Алабуга» привлек внимание одного из гостей мероприятия, передает РИА «Новости». Механический участник выставки поднял руки и вступил в шуточный спарринг с подошедшим мужчиной.

После короткой «тренировки» андроид пожал человеку руку и помахал на прощание, прежде чем удалиться.

Масштабное мероприятие проходит в уральской столице с 11 по 17 сентября. Ожидается, что фестиваль соберет 10 тыс. участников, представляющих 191 страну мира.

Как писала газета ВЗГЛЯД, в августе полноразмерные человекоподобные машины провели показательный поединок на Всемирной конференции роботов в Пекине.

Весной в Екатеринбурге появился первый в России автоматический заправщик автомобилей.

В прошлом году на выставке «Иннопром» в этом же городе разработчики презентовали говорящего робота-андроида с человеческой мимикой.

Глава компании OpenAI Сэм Альтман выразил опасение по поводу возможного антиутопического сценария, передает РИА «Новости».

По его мнению, опасность кроется в вероятности использования мощного искусственного интеллекта одним человеком или организацией для навязывания своего мировоззрения.

«Если необычайно мощный ИИ будет использоваться лишь одним человеком или компанией для того, чтобы навязать свою точку зрения другим, результаты могут стать крайне антиутопическими», – отметил Альтман.

Также руководитель OpenAI опасается, что человечество может потерять контроль над будущим, которое перейдет к ИИ. Чтобы этого избежать, методы обеспечения безопасности должны опережать развитие нейросетей. Ранее глава Anthropic Дарио Амодей призывал замедлить разработку мощных моделей ИИ, эту идею поддержали Альтман и владелец xAI Илон Маск.

Как писала газета ВЗГЛЯД, генеральный директор Anthropic Дарио Амодей предложил внедрить план контроля за нейросетями.

Ранее глава OpenAI Сэм Альтман заявил о достижении человечеством точки сингулярности в гонке технологий.

Американский предприниматель Илон Маск сравнил угрозу искусственного интеллекта со сценарием фильма «Терминатор».

Глава Минобрнауки выступил на сессии «Фундамент будущего: какое образование всегда актуально» в Екатеринбурге, передает РИА «Новости».

По его словам, простого добавления отдельного курса по новым технологиям в учебные программы будет недостаточно.

«Надо изменить всю парадигму высшего образования, это означает, что искусственный интеллект должен рассматриваться как инфраструктура, на которой и будут базироваться все процессы, которые происходят в системе высшего образования», – подчеркнул Валерий Фальков.

Международный фестиваль молодежи проходит в Екатеринбурге с 11 по 17 сентября. Ожидается, что в масштабном событии примут участие 10 тыс. человек из 191 страны мира.

Как писала газета ВЗГЛЯД, Министерство науки и высшего образования предложило сделать изучение технологий искусственного интеллекта обязательным для отечественных студентов.

Глава ведомства Валерий Фальков заявил об отсутствии готовых решений для адаптации образовательных программ.

Ранее министр спрогнозировал полное исчезновение традиционного формата написания выпускных квалификационных работ из-за повсеместного внедрения нейросетей.

Министерство государственной безопасности КНР назвало искусственный интеллект ключевым фактором будущих войн, предупредив о переходе военных конфликтов в эпоху интеллектуализации, передает РИА «Новости».

В китайском журнале «Чжунго Вансинь» вышла статья министра государственной безопасности КНР Чэнь Исиня. В ней отмечается, что сфера ИИ уже стала главной ареной глобальной научно-технологической конкуренции и новым направлением стратегического соперничества крупных держав.

«Технологии искусственного интеллекта способствуют переходу формы ведения войн в эпоху интеллектуализации», – говорится в материале. Глава ведомства считает, что инициативу на поле боя получит тот, кто сможет с помощью алгоритмов обеспечить более тонкое восприятие обстановки, более точные решения и более точечное поражение целей. Он добавил, что искусственный интеллект постепенно превращается на поле боя из вспомогательного второстепенного элемента в ключевого игрока.

Чэнь Исинь также связал развитие ИИ с ростом угроз в киберпространстве. По его оценке, технологии уже позволяют автоматизировать поиск уязвимостей, разработку вредоносного ПО и построение цепочек атак, снижая порог и стоимость проведения кибератак. Министр предупредил, что противостояние постепенно переходит в новую фазу «ИИ против ИИ», что создает дополнительные риски для критически важной информационной инфраструктуры страны.

Как писала газета ВЗГЛЯД, председатель КНР Си Цзиньпин объявил о планах по созданию интеллектуализированной военной системы.

Китайский лидер потребовал сохранить контроль человека над искусственным интеллектом.

Россия и Китай совместно выступили против использования передовых технологий для геополитического доминирования.

Заместитель председателя Совета безопасности России Дмитрий Медведев высказался о потенциальных угрозах искусственного интеллекта. Политик считает, что разработчики нейросетей лукавят, когда говорят о риске уничтожения человечества.

«Создатели различных вариантов генеративного искусственного интеллекта лукавят. Они боятся не за нас с вами и не за Sapiens в целом», – отметил Медведев в своем Telegram-канале. По его мнению, реальная опасность кроется в возможности техногенных катастроф.

Политик привел примеры возможных сценариев, включая столкновение самолетов или уничтожение атомных электростанций из-за сбоев в программах управления. В таких случаях, по словам Медведева, создателям искусственного интеллекта грозят многомиллиардные иски или физическая расправа.

Заместитель главы Совбеза также прокомментировал опасения многих экспертов и предпринимателей, в том числе Илона Маска, о слишком быстром развитии технологий. Медведев согласился с реальностью этих страхов, напомнив о своей недавней статье на эту тему.

Накануне американский предприниматель Илон Маск сравнил опасность искусственного интеллекта с ядерным оружием.

В конце августа Дмитрий Медведев рассказал о самостоятельном создании нейросетями программ для обхода корпоративной киберзащиты.

Весной Медведев перечислил ключевые риски нерегулируемого развития данных технологий в статье для журнала «Эксперт».

Разработчик искусственного интеллекта пересмотрел планы по расширению присутствия на Ближнем Востоке, пишет Wall Street Journal.

Ранее предполагалось, что корпорация станет ключевым арендатором нового масштабного инфраструктурного объекта в Абу-Даби, отмечает РИА «Новости».

«Реализация этой сделки, судя по всему, приостановлена… OpenAI до сих пор не подписала договор аренды для данного проекта», – отмечает издание.

В мае 2025 года агентство Bloomberg сообщало о намерениях создать в Эмиратах крупнейший в мире вычислительный кластер. Его энергопотребление должно было равняться мощности пяти ядерных реакторов.

Сейчас комплексы Amazon Web Services в Абу-Даби и Бахрейне практически не работают из-за повреждений в ходе конфликта. Клиентам рекомендовали перенести данные, что создает серьезные риски для многомиллиардных инвестиций бизнеса из США.

Как писала газета ВЗГЛЯД, в марте текущего года иранские дроны атаковали дата-центр Amazon Web Services в ОАЭ.

Позднее Тегеран пригрозил ударами по крупнейшим американским IT-компаниям.

В прошлом году Илон Маск пытался сорвать сделку OpenAI по строительству вычислительного комплекса в Эмиратах.

Президент США Дональд Трамп позвонил генеральному директору Nvidia Дженсену Хуангу во время его выступления на сцене форума All-in в Лос-Анджелесе, пишет газета The Washington Post.

Хуанг включил громкую связь, и Трамп назвал опасения по поводу искусственного интеллекта мистификацией, заявив, что роботы не захватят власть, отмечает ТАСС.

12 сентября директор компании Anthropic Дарио Амодеи опубликовал статью с призывом замедлить темпы развития передовых моделей искусственного интеллекта. По его мнению, скоординированное замедление работы над этими технологиями позволит ИИ-компаниям выиграть один-два года дополнительного времени до того, как модели достигнут критических уровней развития, и избежать серьезных просчетов.

С такой оценкой согласились основатель SpaceX Илон Маск, самый богатый человек планеты, и директор компании OpenAI Сэм Альтман.

Как писала газета ВЗГЛЯД, главу Nvidia Дженсена Хуанга заметили в делегации Трампа в Китай.

Nvidia решила приобрести активы стартапа Groq за 20 млрд долларов.

Ранее Financial Times назвала Хуанга человеком года.