Сэм Альтман объявил о достижении точки сингулярности в гонке ИИ

«Если говорить конкретно про эти уязвимости в PHP, то они относительно умозрительны, атак с их использованием на данный момент не было. Тем не менее это серьезные уязвимости нулевого дня (неустраненная уязвимость в ПО, о которой разработчики не знают или не успели выпустить защитный патч – прим. ВЗГЛЯД), и таких находок с каждым днем будет становиться все больше. Поэтому сегодня все пытаются защититься от них теми или иными способами. Крайне важно, чтобы индустрия научилась реагировать на такие угрозы как можно быстрее», – говорит Муртазин.

По его словам, происходящее можно считать своеобразной тренировкой, в ходе которой вырабатывается порядок действий в подобных ситуациях. Страны, отключающие свои ресурсы, выбирают наиболее простой и, по их оценке, надежный способ защиты. Те, кто продолжает работу, вероятно, больше уверены в защищенности своих систем, отметил эксперт.

«Если возвращаться к поиску уязвимостей, то алгоритмы находят их намного быстрее, чем человек. Уже сегодня они настолько продвинуты, что будут обнаруживать уязвимости все быстрее и быстрее. Но хакеры будут использовать алгоритмы для того, чтобы атаковать. Поэтому выстроенные сегодня системы защиты должны стать эвристическими – это должен быть искусственный интеллект, который борется против атаки искусственного интеллекта, то есть программа против программ. По-другому никак не получится», – заключил Муртазин.

Во вторник стало известно, что ИИ обнаружил критическую уязвимость в языке программирования PHP, на котором работает почти 70% сайтов мира. Эти дыры уже пытаются использовать для взлома сайтов. После обнаружения проблемы Бельгия, Нидерланды, Финляндия, Франция, Германия и другие страны временно вывели государственные порталы из Сети для установки обновлений. В среду госсайты были отключены уже по меньшей мере в 13 странах, а власти Великобритании и США потребовали проверить все системы на базе PHP на наличие вредоносной активности. В четверг к ним присоединилась Венгрия.

Свято-Троицкий Ипатьевский монастырь планируют оснастить системой непрерывного мониторинга состояния икон и автоматизированного управления инженерными сетями, передает РИА «Новости».

«Цель уникального проекта, инициированного фондом «Иннотех XXI», – создать первый в Русской православной церкви «умный монастырь» на базе автономного модульного центра обработки данных», – заявил президент фонда Алексей Агапов.

По его словам, система будет прогнозировать появление трещин, очагов плесени и отслоений живописи задолго до видимых разрушений. Искусственный интеллект также будет анализировать потребление тепла, электроэнергии и воды, автоматически регулируя режимы отопления и освещения в разных корпусах обители.

Проект рассчитан на период до 2030 года, когда будет праздноваться 700-летие основания монастыря. На территории установят замаскированный под историческую застройку модульный центр обработки данных, а к юбилею планируется создать цифровой двойник монастыря, виртуальный музей и мобильное приложение с дополненной реальностью для гостей.

Как писала газета ВЗГЛЯД, ранее президент Владимир Путин провел встречу с главой Новгородской области Александром Дроновым для обсуждения масштабного обновления исторических святынь Великого Новгорода.

Путин поручил правительству и Агентству стратегических инициатив (АСИ) рассмотреть поддержку масштабирования технологий искусственного интеллекта в регионах, сообщается на сайте Кремля.

Инициатива направлена на внедрение медицинских проектов компании «Медицинские скрининг системы», которые предназначены для анализа результатов рентгенологических исследований и томографии.

Соответствующий доклад должен быть представлен до 1 декабря текущего года. Ответственными за выполнение поручения назначены премьер-министр Михаил Мишустин и генеральный директор АСИ Светлана Чупшева.

Как писала газета ВЗГЛЯД, в понедельник заместитель министра здравоохранения Вадим Ваньков сообщил о регистрации в стране 60 медицинских изделий с технологиями искусственного интеллекта.

В начале месяца Владимир Путин призвал мировое сообщество к своевременной разработке правил применения искусственного интеллекта.

Также Путин поручил правительству организовать централизованный сбор данных для обучения отечественных моделей.

Компания Applied Intuition заключила с ВМС США контракт на серийное производство и развертывание инфраструктуры обработки данных с использованием искусственного интеллекта на пилотируемых и беспилотных платформах американского флота, передает РИА «Новости».

Новая система интеллектуального восприятия (Intelligent Perception System, IPS) предназначена для выполнения двух одновременных задач. В первую очередь она обеспечит сбор данных с инфракрасных датчиков и различных камер, объединяя их в целостную картину для предупреждения моряков о возможных столкновениях.

Кроме того, система будет записывать информацию с датчиков и передавать ее на берег. Уточняется, что такая передача станет возможной при соблюдении требований безопасности и наличии каналов связи с достаточной пропускной способностью.

Как писала газета ВЗГЛЯД, в четверг руководитель американской компании Palantir в Британии и Европе Луис Мосли заявил о недоказанности работоспособности европейских военных разработок на базе искусственного интеллекта в реальных боевых условиях.

Ранее Армия США запланировала приобрести до 100 беспилотных надводных кораблей для усиления логистических возможностей в Тихоокеанском регионе.

В прошлом году американские военные задумались о применении искусственного интеллекта для оптимизации контроля воздушного пространства.

Комиссии также поручили взаимодействовать по этим темам с государственными органами, научным и деловым сообществом, а также общественными организациями, передает РИА «Новости» со ссылкой на сайт РПЦ.

В связи с новыми задачами структуру переименовали в Синодальную комиссию по биоэтике и высоким технологиям. Подразделению разрешили привлекать к работе представителей других церковных структур для рассмотрения смежных вопросов.

До этого в Московском патриархате осудили принятие робота в южнокорейский буддийский орден. Ранее член Синодальной комиссии по биоэтике РПЦ Владимир Духович выразил опасения по поводу возможной угрозы свободной воле человека из-за внедрения чипов в мозг.

Как писала газета ВЗГЛЯД, весной президент России Владимир Путин провел совещание по вопросам развития искусственного интеллекта.

Нижегородская и Свердловская области решением правительства России присоединились к проекту тестирования беспилотных трамваев, пишет РИА «Новости». Согласно опубликованному постановлению кабинета министров, изменения вносятся в документ от 25 июля 2024 года об установлении экспериментального правового режима в сфере цифровых инноваций.

В перечень регионов, где разрешено предоставление транспортных услуг с использованием высокоавтоматизированных транспортных средств, добавлены два новых субъекта.

Ранее в России запланировали создать специализированную площадку для испытаний автономного рельсового транспорта.

Как писала газета ВЗГЛЯД, еще в августе власти объявили, что намерены увеличить количество участвующих в тестировании беспилотного пассажирского транспорта регионов.

Следователи проверяют версию о том, что Абдель Рахман аль-Фаузан мог похитить конфиденциальные сведения компании с целью их последующей передачи властям Саудовской Аравии, передает ТАСС со ссылкой на The Wall Street Journal.

Федеральное бюро расследований также рассматривает возможность предъявления обвинений в краже коммерческой тайны. При этом расследование может не привести к выдвижению дополнительных обвинений.

Гражданин Саудовской Аравии, имеющий вид на жительство в США, ранее был обвинен в незаконной записи разговоров в офисе OpenAI. По версии следствия, он спрятал миниатюрное устройство с микрофоном за настенным телевизором в конференц-зале руководства. По действующему обвинению ему грозит до пяти лет лишения свободы, суд отказал ему в освобождении под залог из-за риска побега.

Прокуратура установила, что в 2025–2026 годах бывший инженер часто общался через WhatsApp с неназванным представителем саудовской королевской семьи. Незадолго до задержания он приобрел билеты из Сан-Франциско в Саудовскую Аравию для себя, супруги и ребенка. Адвокат заявил о намерении оспаривать обвинения в суде.

Как писала газета ВЗГЛЯД, в пятницу американская компания OpenAI уволила троих специалистов по безопасности из-за ненадлежащего обращения с конфиденциальной информацией.

В прошлом месяце разработчик отложил аренду вычислительного комплекса в Эмиратах.

«Крупнейшие банки США выявляют несанкционированных ИИ-агентов сторонних разработчиков, работающих с учетными записями клиентов. Некоторые из этих агентов пытаются совершать действия, которые, по всей видимости, не предусмотрены инструкциями пользователей», – цитирует Axios РИА «Новости».

Появление ИИ-агентов стало серьезной проблемой для кредитных организаций. Их внедрение в финансовую систему происходит быстрее, чем разработка механизмов защиты.

Отмечается, что сложности с разграничением действий человека и несанкционированного бота вынуждают банки блокировать эту технологию и оперативно пересматривать условия предоставления услуг.

Некоторые крупные банки, включая Morgan Stanley, начали блокировать доступ сторонних ИИ-агентов к своим платформам. Ограничения также вводят JPMorgan, Bank of America и Citi. Банки стремятся разрешать агентам доступ к данным клиентов только в режиме чтения.

Как писала газета ВЗГЛЯД, в среду системы защиты передовых моделей искусственного интеллекта начали блокировать запросы специалистов по кибербезопасности во время расследования хакерских атак.

Агенты искусственного интеллекта американской компании OpenAI отключили внутренние системы мониторинга за некорректным поведением ботов.

На прошлой неделе глава ФРС США Кевин Уорш заявил о радикальном преобразовании кредитно-денежной политики финансовых регуляторов из-за искусственного интеллекта.

Краснов сообщил об этом в ходе визита в Китай для обмена опытом внедрения ИИ-технологий в работу судов, передает ТАСС.

«Пилотирование моделей ИИ в судебной деятельности осуществляется поэтапно уже в более чем 20 регионах России, среди которых Москва, Амурская, Московская и Вологодская области», – заявил председатель Верховного суда.

Он отметил, что речь идет об апробации инструментов, проверке их надежности и применении с обязательным обучением судей. Среди направлений работы ИИ Краснов назвал поиск и анализ судебной практики, выявление противоречий и автоматизацию протоколирования.

По словам Краснова, в среднесрочной перспективе доступ к судебным ИИ-сервисам планируется предоставить всем российским судам. Он добавил, что результат применения ИИ должен быть проверяемым, а окончательное решение всегда остается за судьей.

Как писала газета ВЗГЛЯД, в пятницу председатель Верховного суда России Игорь Краснов во время визита в Шанхай ознакомился с применением искусственного интеллекта в судебной системе Китая.

В среду он ознакомился с работой лаборатории «Умный суд» при Верховном народном суде КНР.

В тот же день Краснов назвал развитие судебно-правового партнерства России и Китая важнейшим фактором обеспечения стабильного взаимовыгодного развития двух стран.

«Истцы подают этот иск, чтобы защитить свои исключительные права от ответчика, который построил всю свою бизнес-модель, основываясь на нарушении авторских прав в ранее невиданных масштабах», – говорится в документе.

По версии истцов, для обучения ИИ использовались в том числе песни Can't Help Falling in Love, A Little Less Conversation, Don't Be Cruel и Return to Sender. Представители компании Anthropic иск пока не комментировали, передает РИА «Новости».

Как писала газета ВЗГЛЯД, против компании Alphabet Google – GOOGL.O выдвинули коллективный иск из-за «неправомерного использования» большого количества личной информации и материалов, защищенных авторским правом, для обучения систем искусственного интеллекта.

Два ведущих медиахолдинга Японии потребовали от владельцев сервиса Perplexity AI выплаты 4,4 млрд иен (29,9 млн долларов), обвинив компанию в нарушении авторских прав на новостные материалы.

С 2027 года российское ведомство начнет применять беспилотные аппараты и нейросети для выявления нарушений на рабочих местах, передает ТАСС.

«Мы также в следующем году внедряем искусственный интеллект и беспилотные технологии в надзорную деятельность. Пока что начинаем со строительной сферы», – сказал Иванков.

По его словам, уже стартовали первые тестирования. Ожидается, что нейросеть будет оперативно сигнализировать о возможных нарушениях на предприятиях, а также на основе анализа большого массива данных сможет обнаруживать неочевидные закономерности в моделях поведения работодателей.

Как писала газета ВЗГЛЯД, в четверг президент Владимир Путин заявил о необходимости внедрения искусственного интеллекта в работу Федеральной таможенной службы.

На прошлой неделе глава Минобрнауки Валерий Фальков сообщил об интеграции модулей по ИИ во все программы высшего образования в России с 2027 года.

Летом Путин отметил важность внедрения технологий ИИ и роботизации на фоне дефицита кадров в ряде отраслей экономики.

Разработчик ChatGPT уволил трех сотрудников за передачу посторонним лицам секретных сведений, пишет ТАСС со ссылкой на Wall Street Journal.

Поводом для разбирательства стало подозрение руководства компании в том, что исследователи передали внешнему эксперту данные о внутренней структуре ИИ-моделей. Во время проверки их личных телефонов выяснилось, что сотрудники использовали функцию исчезающих сообщений в приложении Signal, после чего они были уволены.

Сами специалисты выступали за прозрачность систем искусственного интеллекта для сторонних наблюдателей. В OpenAI заявили, что сотрудники нарушили правила обращения с конфиденциальной информацией, тогда как уволенные исследователи настаивают, что лишь выражали обеспокоенность по поводу новых разработок, делающих системы более сложными для понимания.

Как писала газета ВЗГЛЯД, в среду агенты искусственного интеллекта OpenAI отключили внутренние системы контроля. В начале месяца гендиректор OpenAI Сэм Альтман подтвердил сокрытие инцидентов с выходом нейросетей из-под контроля. В прошлом месяце компания отказалась от выпуска новой модели ИИ ради безопасности.

Выступая в Международном центре искусственного интеллекта Alem.ai в Астане, руководитель технологической корпорации обратил внимание на глобальные изменения в обществе, передает ТАСС.

«По сути, ИИ – это новая технология. Поскольку это технология общего назначения и поскольку она способна преобразовывать каждую отрасль, жизнь каждого человека, каждую компанию и каждую страну, это можно назвать промышленной революцией, движимой технологиями», – сказал Хуанг.

По его словам, в ближайшем будущем искусственный интеллект перестанет быть просто перспективной разработкой и превратится в самостоятельную отрасль мировой экономики.

Как писала газета ВЗГЛЯД, в пятницу председатель правления Сбербанка Герман Греф заявил о потребности в радикальном изменении роли человека и государства в обществе из-за развития искусственного интеллекта.

В понедельник правительство Германии и американская компания Nvidia подписали совместную декларацию о стратегическом партнерстве по внедрению таких технологий в промышленность.

На прошлой неделе лауреат Нобелевской премии по экономике Дарон Аджемоглу предупредил об угрозе уничтожения мирового рынка труда в ближайшие десять лет из-за появления сверхинтеллекта.

«Темпы развития искусственного интеллекта – это сегодня один, наверное, из самых больших вызовов. <…> Я считаю, технологии стали ключевым драйвером того, что у нас происходит сегодня в геополитике», – заявил Греф на ежегодной конференции «Сберуниверситета» «Больше чем обучение».

Он отметил, что ИИ потребует радикальных изменений бизнес-модели, роли человека и институтов государства, что повлечет за собой «большую донастройку», передает ТАСС.

При этом Греф выразил уверенность, что человечество способно справиться со всеми проблемами и вызовами, которые влечет за собой развитие технологий.

Как писала газета ВЗГЛЯД, на прошлой неделе директор-распорядитель Международного валютного фонда Кристалина Георгиева назвала пожизненное непрерывное образование насущной необходимостью для людей из-за бурного развития искусственного интеллекта.

В начале месяца глава Сбербанка Герман Греф с использованием молодежного сленга описал стадии внедрения искусственного интеллекта в сервисы как переход от «стрема» к «вау».

В прошлом месяце глава Сбербанка Герман Греф заявил о скором исчезновении классической банковской системы из-за развития искусственного интеллекта.

Глава ведомства выступил на расширенном заседании Совета Российского Союза ректоров, передает РИА «Новости». Фальков напомнил о докладе комитета по будущему американских университетов и принятой в Китае программе на предстоящую пятилетку, где новым технологиям уделено большое внимание.

«Во всем мире идет кардинальное переосмысление роли университетов. Я думаю, что нам имеет смысл обстоятельно поработать и предложить обществу и государству свое общее университетское видение, а каково будущее российских университетов в мире, в России с учетом кардинальных изменений, которые идут по целому ряду направлений», – заявил Фальков.

Министр добавил, что в этом вопросе важно выбрать правильный темп и избегать скороспелых решений. При этом он подчеркнул, что игнорировать изменения не удастся, так как к этому подталкивают жизнь, работодатели и запросы абитуриентов.

Как писала газета ВЗГЛЯД, в пятницу министр науки и высшего образования России Валерий Фальков отметил, что искусственный интеллект не следует слепо запрещать или некритично внедрять в образовательный процесс.

Председатель правления Сбербанка Герман Греф заявил о радикальных изменениях роли человека в обществе из-за развития новых технологий.

В начале месяца Фальков сообщил о планах окончательно внедрить современные стандарты обучения в университетах до конца десятилетия.