«Вероятней всего, на мой взгляд, что нынешний путь приведет к потере контроля над ИИ и может закончиться вымиранием человечества», – сказал Коксон.
По его словам, разработчики ведут себя безрассудно, следуя корпоративной культуре быстрого создания продуктов и устранения ошибок постфактум, что неприменимо к столь мощной технологии. Коксон отметил, что ИИ-компании стремятся создать суперинтеллект, способный превзойти человека в любых задачах, передает РИА «Новости».
Бывший сотрудник Anthropic подчеркнул, что в случае успеха нейросети могут трансформировать экономику и медицину. Однако в настоящее время разработчики не знают, как контролировать создаваемые системы, и не понимают мотивов их действий, а искусственный интеллект уже сейчас взламывает сторонние сети.
Ранее министр финансов США Скотт Бессент сравнил руководство компаний-разработчиков с героем романов об убийце Ганнибале Лектере. По мнению министра, развитие нейросетей следует замедлить, если опасения об их опасности оправданы.
Как писала газета ВЗГЛЯД, в понедельник глава OpenAI Сэм Альтман назвал оправданными риски развития искусственного интеллекта.
В пятницу профильные специалисты подняли бунт в ведущих ИИ-компаниях.
На прошлой неделе разработчик нейросетей Anthropic предупредил об экзистенциальной угрозе человечеству.