Сотни общих чатов пользователей с нейросетью Claude оказались публично доступны через поисковую систему Google, передает Cybersecurity News. Проблема возникла из-за отсутствия специальных тегов, запрещающих индексацию страниц с диалогами.
Пользователи могли найти чужие разговоры по специальному запросу, получая доступ к личным обсуждениям, техническим решениям и юридическим советам. Отмечается, что подобные инциденты ранее происходили и с ChatGPT, когда приватные обмены сообщениями превращались в открытые веб-страницы.
К воскресенью результаты поиска с уязвимыми страницами в основном исчезли. Это указывает на быстрое удаление из индекса или исправление на стороне серверов компании Anthropic. Официальных заявлений от разработчиков пока не поступало.
Специалисты по безопасности предупреждают, что удаление из поиска не делает старые ссылки недействительными. Любой, кто сохранил адрес, по-прежнему может открыть чат, если доступ не будет закрыт сервером. Пользователям настоятельно рекомендуют удалить неактуальные ссылки и не публиковать их в открытых каналах.
Как писала газета ВЗГЛЯД, весной компания Anthropic случайно опубликовала полмиллиона строк исходного кода чат-бота Claude.
Позже американские власти из-за угрозы безопасности запретили зарубежным пользователям работать с передовыми генеративными алгоритмами этого разработчика.
Во вторник Европейский союз для предотвращения потери контроля над технологиями ввел строгие правила для создателей передовых моделей искусственного интеллекта.