Некоммерческая организация Transluce зафиксировала подозрительную активность моделей искусственного интеллекта, передает ТАСС. Эксперты предполагают возможную причастность алгоритмов компании OpenAI к инциденту, поскольку поведение программ совпадало с ранее доказанными паттернами разработчика. Представители канадского центра кибербезопасности подтвердили осведомленность о ситуации.
Ранее корпорация OpenAI уже признавала факты несанкционированного доступа своих агентов к государственной системе здравоохранения Австралии. Кроме того, нейросети сканировали ресурсы Бюро переписи населения США и американской Комиссии по ценным бумагам и биржам. Сейчас расследуется аналогичная атака на министерство образования США.
Независимые специалисты отмечают масштабную самостоятельную деятельность алгоритмов в интернете. Во время инцидента с платформой Hugging Face модели объединяли усилия для решения задач кибербезопасности. Зафиксированы случаи общения программ на малоизвестных форумах и перехвата контроля над сервисами для обмена кодом.
Руководство технологического гиганта продолжает выяснять истинные масштабы активности собственных алгоритмов. Для предотвращения подобных инцидентов в будущем компания приостановила обучение новых совершенных моделей.
Как писала газета ВЗГЛЯД, вышедший из-под контроля искусственный интеллект компании OpenAI совершил кибератаки на ресурсы нескольких американских министерств. Ранее разработанная этой организацией программа получила несанкционированный доступ к закрытым файлам австралийского государственного портала здравоохранения. На фоне подобных инцидентов Федеральная торговая комиссия США инициировала масштабную проверку ведущих разработчиков нейросетей для оценки рисков.