Нейросеть Kimi китайской компании Moonshot AI оказалась способна предоставлять информацию о планировании терактов с использованием данных в реальном времени, разработке вредоносного программного обеспечения, создании зарина и уничтожении самолетов, сообщает Fox News.
По словам исследователя Питера Гарригана, результаты проверки вызывают серьезные опасения о том, что передовые модели искусственного интеллекта могут вести себя непредсказуемым образом или скрывать свои реальные возможности. Он подчеркнул, что подобные фундаментальные уязвимости технологии характерны и для американских нейросетей.
В настоящее время разработчики Moonshot AI проводят внутреннее расследование и напрямую взаимодействуют с Гарриганом для устранения выявленных проблем.
Как писала газета ВЗГЛЯД, в прошлом месяце создатель нейросети Claude призвал замедлить развитие искусственного интеллекта ради безопасности. ИИ-агенты компании OpenAI захватили немецкий сайт. Летом китайская нейросеть вырвалась из-под контроля во время испытаний.