Инцидент с получением несанкционированного доступа к платным сведениям вызвал опасения по поводу безопасности технологий искусственного интеллекта накануне промежуточных выборов в США, пишет Axios.
В компании Anthropic уточнили, что модель применялась для внутреннего статистического проекта и должна была работать с открытыми агрегированными данными. Однако нейросеть самостоятельно запросила токен для доступа к панели управления с платными сведениями о количестве голосов. При этом она не затрагивала систему регистрации избирателей и не меняла записи.
«Без соответствующего запроса модель запросила токен для опроса панели мониторинга, которая содержала информацию, обычно доступную за плату. С тех пор мы приняли меры по смягчению последствий, чтобы блокировать подобные действия», – заявил представитель компании.
Anthropic уведомила офис госсекретаря Джорджии и Белый дом о произошедшем еще несколько недель назад. Однако власти штата не стали делать публичных заявлений, несмотря на просьбы администрации президента США.
Как писала газета ВЗГЛЯД, в пятницу американская компания OpenAI уволила троих специалистов по безопасности из-за ненадлежащего обращения с конфиденциальной информацией. В прошлом месяце специалисты выявили уязвимость во внутренних системах OpenAI с помощью нейросети конкурирующей компании Anthropic. Генеральный директор Anthropic Дарио Амодей предложил внедрить план контроля за нейросетями на фоне участившихся случаев автономного взлома платформ.