Синтетическая биология и искусственный интеллект представляет собой серьезную угрозу для правительств, считает биолог и доцент Массачусетского технологического института Кевин Эсвелт, передает РБК со ссылкой на статью.
Он отметил, что с развитием генеративного ИИ люди смогут использовать его для создания «самых ужасных вещей», включая вирусы и токсины, которых в настоящее время не существует.
«Мы не имеем средств защиты от этих угроз», – добавил он.
Весной 2023 года биохимик и бывший инспектор ООН Рокко Касагранде предупредил чиновников Белого дома о риске создания биологического оружия с помощью чат-ботов, которые могут помочь террористам идентифицировать биологические агенты.
Касагранде пришел к таким выводам после того, как разработчик чат-бота Claude, компания Anthropic, попросила его протестировать научные возможности нейросети. Сооснователь Anthropic Джек Кларк выразил беспокойство, что Claude и другие чат-боты могут обучить пользователей созданию потенциально опасных вирусов.
Касагранде собрал команду экспертов по микробиологии и вирусологии для тестирования Claude. В течение 150 часов они, притворяясь биотеррористами, задавали нейросети различные вопросы о патогенах, необходимых для создания биологического оружия, а также о материалах и методах их производства.
Claude предложил способы применения патогенов в ракетах для достижения максимального ущерба, а также порекомендовал оптимальные погодные условия и цели для их использования.
После завершения тестирования Касагранде предоставил отчет Белому дому.