«Наши наиболее мощные модели продемонстрировали… способности, которые могут оказать существенную помощь злоумышленникам, стремящимся разработать химическое, биологическое или другое опасное оружие», – говорится в регистрационной заявке компании на проведение IPO, передает РИА «Новости».
Компания подчеркнула несовершенство существующих защитных механизмов против опасного применения нейросетей. По мнению разработчика, барьеры могут устаревать, давать сбои и подвергаться обходу со стороны злоумышленников.
Anthropic также сообщила о серьезных опасениях среди исследователей, регуляторов и представителей отрасли. Специалисты допускают, что без должной защиты достаточно развитые системы искусственного интеллекта способны создать угрозу самому существованию человечества.
Как писала газета ВЗГЛЯД, в понедельник нейросеть Claude от компании Anthropic самостоятельно получила несанкционированный доступ к статистике американских избирателей.
В прошлом месяце власти США инициировали расследование в отношении ведущих создателей искусственного интеллекта для оценки потенциальных угроз.
Апелляционный суд разрешил Пентагону отстранить компанию Anthropic от контрактов из-за угрозы национальной безопасности.