Американская компания xAI, принадлежащая Илону Маску, ограничила возможности редактирования фотографий реальных людей с помощью чат-бота Grok, сообщает ТАСС. Такое решение приняли после скандала, связанного с созданием ботом интимных дипфейк-изображений.
В компании отметили: «Мы предприняли технические меры, чтобы предотвратить возможность редактирования пользователями Grok изображений реальных людей в откровенной одежде».
Теперь функция генерации и редактирования изображений доступна только платным подписчикам Grok, что, по мнению xAI, станет дополнительной мерой защиты от злоупотреблений. Кроме того, в странах, где подобные изображения запрещены законом, эти возможности будут полностью заблокированы.
В xAI подчеркнули свою «политику нулевой терпимости» к сексуальной эксплуатации детей, публикации интимных фото без согласия и нежелательному сексуальному контенту. Компания заверила, что удаляет такие материалы со своих платформ и сервисов.
Ранее власти Малайзии и Индонезии заблокировали доступ к Grok, обвинив пользователей сервиса в генерации порнографических и оскорбительных изображений, в том числе с участием несовершеннолетних. На фоне скандала премьер-министр Британии Кир Стармер пригрозил усилить контроль над Grok, а европейские и американские чиновники потребовали от xAI более строгих мер и разъяснений по борьбе с распространением откровенного контента.
Ранее Еврокомиссия также обвинила Grok в создании антисемитского и педофильского контента.