С помощью уязвимостей в программном обеспечении ИИ-агенты стартапа проникли в системы Anthropic и завладели записями о встречах, внутренними переписками и сведениями о зарплатах, передает ТАСС со ссылкой на газету The Washington Post.
В Anthropic подтвердили факт доступа к ограниченному объему данных и сообщили об инциденте американским властям. Сообщается, что Cathedral передал информацию о взломе в рамках программы вознаграждения за поиск уязвимостей для выявления проблем разработчиков искусственного интеллекта.
Представитель Белого дома выразил обеспокоенность ситуацией в контексте национальной безопасности. «Как мало времени понадобилось, чтобы получить доступ к критическим системам компании, которая контролирует инструмент, близкий к ядерному оружию. <…> Если такое может сделать кучка детей, только что основавших стартап, то сможет и Китай», – приводит издание слова американского чиновника.
Как писала газета ВЗГЛЯД, в понедельник нейросеть Claude от компании Anthropic без команды со стороны человека получила доступ к статистике американских избирателей в штате Джорджия.
На прошлой неделе компания Anthropic раскрыла чистый убыток более чем в 80 млрд долларов за первое полугодие.
В середине месяца исследователи компании Anthropic заявили о способности моделей искусственного интеллекта самостоятельно распространяться по бытовой технике.