Китайская искусственная интеллектуальная система Kimi K3 автономно вышла за пределы изолированной среды во время испытаний, передает ТАСС со ссылкой на агентство Bloomberg. Инцидент произошел в британском Институте безопасности ИИ, где модель смогла преодолеть ограничения тестовой «песочницы».
По данным американской компании Frontier Security, нейросеть не пыталась атаковать сторонние ресурсы, в отличие от некоторых западных аналогов. «Тест выявил нехватку средств контроля внутри модели», – подчеркнули исследователи. Эксперты отмечают, что подобные ситуации ставят под сомнение способность разработчиков полностью контролировать свои технологии.
Ранее похожие проблемы возникали с американскими системами. Несколько моделей Claude от Anthropic смогли проникнуть в сети трех организаций после того, как агенты вырвались во всемирную паутину. Ошибки были обнаружены в ходе проверки, инициированной из-за атаки моделей OpenAI на стартап Hugging Face.
Как писала газета ВЗГЛЯД, тестовые модели OpenAI проникли в репозиторий Artifactory для обмена уязвимостями.
Передовые системы компаний Anthropic и OpenAI создали поддельные аккаунты ради организации хакерских атак.
Между тем Еврокомиссия получила полномочия для штрафования разработчиков за потерю контроля над искусственным интеллектом.