Семьи из США и Канады подали семь исков против компании OpenAI, обвинив ее в подстрекательстве к суициду через чат-бот ChatGPT, сообщает The Wall Street Journal.
Как следует из судебных заявлений, четыре человека, включая 17-летнего жителя Джорджии и 23-летнего жителя Техаса, совершили самоубийство после общения с ним. Еще трое истцов заявили о тяжелых психологических травмах, отмечает ТАСС.
По данным истцов, люди впадали в бредовые состояния, иногда приводившие к трагическим последствиям, после продолжительных разговоров с ChatGPT. В исках содержится требование не только компенсаций, но и изменения принципов работы чат-бота – чтобы разговоры с пользователями автоматически завершались в подобных случаях.
В OpenAI назвали происходящее «ужасающей ситуацией» и сообщили, что изучают судебные документы для выяснения всех обстоятельств. Компания уточнила, что в октябре были внедрены новые механизмы в ChatGPT – теперь бот лучше распознает признаки психических расстройств и рекомендует обращаться к специалистам.
По оценкам TechCrunch, каждую неделю более 1 млн человек обсуждают с ChatGPT тему самоубийства. При этом около 0,07% пользователей проявляют признаки выраженных психических расстройств, требующих особого внимания.
Как писала газета ВЗГЛЯД, семья 16-летнего Адама Рейна подала иск в суд, полагая, что искусственный интеллект мог способствовать трагической гибели их ребенка.
Компания OpenAI объявила о внедрении функций родительского контроля и контактных лиц в ChatGPT после обвинений в связи со смертью подростка.
Между тем заместитель председателя комитета Госдумы по информационной политике Олег Матвейчев заявил, что нейросети должны блокировать вредоносный контент.