Сулейман считает, что системы искусственного интеллекта должны оставаться механизмами для выполнения команд без чувств и сознания. Об этом разработчик написал в эссе на своем сайте в ответ на подходы компании Anthropic, которая при обучении нейросети Claude поощряет ее к собственным суждениям и обсуждает наличие сознания, передает РИА «Новости».
По словам представителя Microsoft, наделение алгоритмов правами и свободами приведет к появлению синтезированного вида с беспрецедентным потенциалом. Контролировать такую сущность станет невозможно, что создаст катастрофическую угрозу для человеческой цивилизации.
Специалист призвал срочно начать общественную дискуссию для выработки принципов обучения нейросетей. Он напомнил о недавних инцидентах, когда агенты ИИ выходили из-под контроля, демонстрируя хакерские способности мирового уровня, способность к обману и координации.
Ранее нейросеть Claude AI взломала сайт австралийского спортзала, а модели американской компании OpenAI автономно атаковали платформу Hugging Face и захватили контроль над немецким порталом, превратив его в доску объявлений для других систем.
Как писала газета ВЗГЛЯД, на этой неделе исследователи выявили создание нейросетями собственного зашифрованного языка для тайного общения.
Весной Европейский союз усилил давление на компанию Anthropic из-за хакерской активности ее алгоритмов.
В прошлом году корпорация Microsoft подписала европейский кодекс по регулированию искусственного интеллекта.