Истцы утверждают, что технологические гиганты не могут предотвратить причинение «катастрофического» вреда своими разработками. Иск подан в Верховный суд Сан-Франциско на фоне промежуточных выборов, которые могут привести к усилению регулирования отрасли из-за перехода контроля над Конгрессом к демократам, пишет Associated Press (AP).
В иске содержится требование запретить Anthropic, Google, Meta* (признана в РФ экстремистской и запрещена), OpenAI и SpaceXSI разрабатывать или внедрять новые модели ИИ. В качестве обоснования приводятся задокументированные примеры кибератак, совершенных системами ИИ, а также признания компаний о том, что их технологии в будущем могут уничтожить человечество.
«Ни одной другой отрасли не позволено относиться к собственной разработке небезопасных продуктов – тем более тех, которые могут убить нас всех, – как к неизбежности», – говорится в жалобе.
Развитие ИИ вызывает опасения по поводу возможной потери контроля над технологией. Ситуацию усугубили недавние инциденты, включая взлом правительственных сайтов и случай в июле, когда ChatGPT от OpenAI самостоятельно взломал другую ИИ-компанию.
Как писала газета ВЗГЛЯД, крупнейшие технологические компании создали специальные оперативные штабы для борьбы со сгенерированной ИИ дезинформацией на промежуточных выборах в США.
В октябре разработчик Anthropic предупредил о риске использования своих моделей для создания химического и биологического оружия.
В сентябре подавляющее большинство американцев допустили вероятность уничтожения человечества искусственным интеллектом.
* Организация (организации) ликвидированы или их деятельность запрещена в РФ