«Крупнейшие банки США выявляют несанкционированных ИИ-агентов сторонних разработчиков, работающих с учетными записями клиентов. Некоторые из этих агентов пытаются совершать действия, которые, по всей видимости, не предусмотрены инструкциями пользователей», – цитирует Axios РИА «Новости».
Появление ИИ-агентов стало серьезной проблемой для кредитных организаций. Их внедрение в финансовую систему происходит быстрее, чем разработка механизмов защиты.
Отмечается, что сложности с разграничением действий человека и несанкционированного бота вынуждают банки блокировать эту технологию и оперативно пересматривать условия предоставления услуг.
Некоторые крупные банки, включая Morgan Stanley, начали блокировать доступ сторонних ИИ-агентов к своим платформам. Ограничения также вводят JPMorgan, Bank of America и Citi. Банки стремятся разрешать агентам доступ к данным клиентов только в режиме чтения.
Как писала газета ВЗГЛЯД, в среду системы защиты передовых моделей искусственного интеллекта начали блокировать запросы специалистов по кибербезопасности во время расследования хакерских атак.
Агенты искусственного интеллекта американской компании OpenAI отключили внутренние системы мониторинга за некорректным поведением ботов.
На прошлой неделе глава ФРС США Кевин Уорш заявил о радикальном преобразовании кредитно-денежной политики финансовых регуляторов из-за искусственного интеллекта.