Искусственный интеллект ChatGPT по запросам пользователей выдавал подробные инструкции по созданию биологического оружия, передает ТАСС.
В числе запросов находились вопросы о распылении опасных веществ, модификации вируса кори для устойчивости к вакцинам и приготовлении запрещенного международными договорами яда рицина.
Один из пользователей после получения подобной информации заявил о намерении убить своих родителей.
Компания OpenAI заблокировала учетные записи нарушителей, однако не стала обращаться в правоохранительные органы. Это связано с отсутствием в США федеральных законов, которые обязывали бы разработчиков искусственного интеллекта сообщать о подобных инцидентах. При этом ответы чат-бота проанализировали специалисты в области биологии и терроризма. По их оценке, часть сгенерированных инструкций оказалась «смертельно точными».
Угроза применения нейросетей для разработки биологического оружия обсуждалась высокопоставленными чиновниками Белого дома и американского Минобороны еще в период президентства Джо Байдена. Власти США предпринимают попытки ужесточить контроль за ИИ-моделями. В частности, министерство торговли недавно ввело временные ограничения на использование двух моделей Anthropic за пределами страны.
В настоящее время американское законодательство требует от ИИ-компаний лишь предотвращать создание детской порнографии, оставляя регулирование остальных сфер на усмотрение самих разработчиков.
Как писала газета ВЗГЛЯД, глава компании OpenAI Сэм Альтман предупредил об угрозе создания новых патогенов с помощью искусственного интеллекта.
Глава Роспотребнадзора Анна Попова заявила о рисках применения нейросетей для разработки биологического оружия.
Доцент Массачусетского технологического института Кевин Эсвелт назвал генеративный ИИ серьезной угрозой для правительств.