Системы искусственного интеллекта, на которые опираются специалисты по кибербезопасности, стали отказывать в помощи при расследовании атак из-за встроенных ограничений, пишет Axios.
В качестве примера издание приводит недавний взлом открытой платформы OpenCode. Во время атаки злоумышленники получили ключи от сервисов OpenAI, Anthropic и Google. Соавтор проекта Дакс Раад сообщил, что хакеры непрерывно атаковали систему двое суток.
По словам Раада, изначально передовые нейросети помогали расследовать инцидент, но затем начали отказывать в доступе. Системы безопасности блокировали запросы, как только специалисты пытались загрузить потенциально вредоносный код, несмотря на то что разработчики пытались защитить собственные серверы. Для продолжения работы OpenCode пришлось получить специальный доступ к программе OpenAI с меньшими ограничениями.
Технический директор компании Nightwing Крис Джонс отметил, что специалистам придется искать баланс между необходимостью применения искусственного интеллекта и встроенными ограничениями. «Нам всем придется выяснить, как эта гонка будет регулироваться с течением времени. Это важный момент», – заявил Джонс.
Как писала газета ВЗГЛЯД, в начале месяца гендиректор OpenAI подтвердил сокрытие инцидентов с выходом искусственного интеллекта из-под контроля. В прошлом месяце хакеры взломали системы компании с помощью ИИ-модели Claude. Создатель этой нейросети призвал замедлить развитие технологий ради безопасности.