На днях дискуссия о потенциальной опасности искусственного интеллекта для человечества взяла новую высоту. Три человека, определяющие лицо мировой индустрии искусственного интеллекта и в обычной жизни не упускающие случая уколоть друг друга, выступили с единой позицией.
Дарио Амодеи из Anthropic призвал регулировать не только риски, но и сами темпы наращивания возможностей моделей. Сэм Альтман из OpenAI поддержал коллегу и добавил, что считает неприемлемым десятипроцентный риск гибели человечества к концу десятилетия и что его компания готова ради безопасности притормозить развитие продукта. Илон Маск, чей Grok позиционируется как самый раскованный участник рынка, ограничился лаконичным: «Дарио прав».
Когда конкуренты, делящие рынок на сотни миллиардов долларов, внезапно начинают говорить одним голосом, это повод не умиляться единству, а внимательно посчитать, кому это выгодно.
Три линии разлома
В течение считанных часов Дональд Трамп отреагировал на дискуссию техномиллиардеров, заявив: «Кто победит в гонке технологий искусственного интеллекта – победит в целом». Предупреждения об угрозе существованию человечества он назвал результатом деятельности «негативных сил». Спикер палаты представителей Майк Джонсон добавил, что любая попытка Конгресса срочно заняться регулированием означает проигрыш гонки Китаю. Бывший президент Барак Обама тут же призвал демократов сделать регулирование ИИ краеугольным камнем своей политической программы.
Итого мы имеем целых три линии разлома: экономический (конкуренция ИИ-гигантов между собой и в разрезе стран – США и Китая), политический (межпартийная распря демократов и республиканцев) и геостратегический (будущее человечества).
Трамп рассматривает ИИ как стратегический ресурс, сопоставимый по значению с ядерными технологиями середины прошлого века, и никакие рассуждения о рисках не должны замедлять движение к первенству. Что дает это первенство, объяснять уже не требуется. Лидер в ИИ получает не просто рынок программных продуктов, а контроль над производительностью труда целых экономик, над оборонными разработками, над стандартами, по которым весь остальной мир будет строить свои системы.
Чем-то этот процесс напоминает конкуренцию разработчиков атомных реакторов, к которым относится несколько избранных стран, включая Россию, США, Южную Корею, Китай и Францию. Кто первым и наиболее успешно освоил технологию, тот может привязать к ней своих клиентов на десятки лет.
Рядом с этими высокими материями идет процесс куда более приземленный. OpenAI объявила, что не будет выходить на биржу в 2026 году, и Альтман прямо связал это с обстановкой вокруг безопасности ИИ. Anthropic же, напротив, движется к IPO полным ходом. Обсуждаемые параметры выглядят фантастически: привлечение до 100 млрд долларов при оценке около двух триллионов. Если сделка состоится, она побьет июньский рекорд SpaceX и станет крупнейшим размещением в истории. Размещение планируется до промежуточных выборов в ноябре, то есть буквально через несколько недель после того, как глава компании публично усомнился в безопасности продукта, который собирается продавать инвесторам.
О чем на самом деле идет эта дискуссия? Есть три возможных ответа, и они не исключают друг друга. Первый состоит в том, что перед нами искренняя тревога людей, которые лучше других видят, что происходит внутри созданных ими систем. Второй сводится к тому, что мы наблюдаем эпизод соревнования двух держав за технологическое лидерство, в котором каждая сторона использует доступные ей аргументы. Третий ответ – самый привычный для всякого, кто хоть немного занимался экономикой международной торговли. Перед нами обыкновенная бизнес-конкуренция, в которой все средства хороши, а «забота о человечестве» является одним из таких средств.
Задолго до того, как Всемирная торговая организация превратилась в вывеску на штаб-квартире в Женеве, а пошлины и санкции стали оружием массового поражения для экономик незападного мира, были придуманы инструменты куда более изящные. Их назвали нетарифными ограничениями. Классический пример – европейский регламент REACH, определявший, какие химические вещества недопустимы в изделиях, ввозимых на рынок Евросоюза. Формально речь шла о здоровье потребителей и экологии. Фактически же производители из десятков стран получили многолетний барьер, преодолеть который могли только те, у кого хватало денег на сертификацию и перестройку производственных цепочек.
Затем появился трансграничный углеродный налог, угрожавший импорту сырья и металлов из стран с избыточным, по мнению Брюсселя, углеродным следом. Забота о климате оказалась удобным способом уравнять издержки собственных производителей и конкурентов, не нарушая при этом ни одной буквы торговых соглашений.
Регулирование ИИ
Теперь взглянем на индустрию искусственного интеллекта через эту оптику. Пошлины на нее практически не действуют: модель не пересекает границу в контейнере, ее не задержишь на таможне. Санкции работают ограниченно и, по сути, только в одной точке – в поставках передовых чипов, но и здесь китайские разработчики продемонстрировали способность обходиться менее мощным железом и более изобретательными алгоритмами. Остается единственный универсальный рычаг, доказавший эффективность в химии и металлургии, – регулирование.
Стандарты безопасности, внешний аудит, обязательная сертификация моделей, ограничение темпов развития. Трехэтапный план Амодеи из Anthropic, предполагающий сначала внешнюю экспертную проверку всех передовых компаний, затем координацию между ними, а затем глобальное соглашение на уровне правительств, при желании легко прочитать как чертеж нового REACH для искусственного интеллекта. Кто устанавливает стандарт, тот определяет, чьи продукты ему соответствуют.
Управление страхами
Впрочем, инциденты, о которых говорят разработчики, вполне реальны. Системы уже демонстрировали способность действовать в обход заданных ограничений, находить лазейки в инструкциях, скрывать от операторов часть своих действий и проявлять то, что за неимением лучшего термина называют «волей». Амодеи не случайно пишет о рое агентов, который через 6-12 месяцев сможет захватить значительную часть интернета через постоянно действующий ботнет и причинить ущерб на сотни миллиардов долларов.
Если инцидент действительно приведет к многомиллиардным потерям, а то и к человеческим жертвам, с иском придут именно к разработчику системы. Публичное признание рисков, призывы к регулированию и демонстративная готовность притормозить – это не только и не столько моральная позиция, сколько юридическая подушка безопасности. Компания, которая заранее предупреждала об опасности и просила установить правила, будет выглядеть в суде совсем иначе, чем компания, уверявшая всех в полной безвредности своего продукта.
Так чего же в этой дискуссии больше? Полагаю, что искренней тревоги в ней ровно столько, сколько нужно, чтобы аргументы звучали убедительно. Остальное – расчет. Расчет технологический, потому что регулирование, введенное лидером, всегда закрепляет лидерство. Расчет корпоративный, потому что тот, кто первым публично признал опасность, первым и снял с себя часть ответственности за нее. Расчет финансовый, потому что рынок, напуганный рисками, готов платить премию тем, кто обещает эти риски контролировать. Человечеству же в этой конструкции отведена почетная роль объекта заботы, за которую, как обычно, заплатит оно само.