Жизнь вокруг нас и без того стремительно менялась в течение последних десятилетий, и тем не менее любые разговоры о том, что очередное изобретение как-то особенно радикально изменит мир, напоминают знаменитую реплику из фильма «Москва слезам не верит»: «Ничего не будет – одно сплошное телевидение». Фильм был снят в 1979 году, действие этого эпизода происходит на 20 лет раньше, то есть эта реплика уже иронически обыгрывается. Еще через 20 лет в Россию массово пришел интернет, однако можем ли мы сказать, что сегодня в нашей жизни ничего нет, кроме интернета?
И вот – новый поворот. Компания Open AI преподносит в дар человечеству нейросеть GPT. Ее очередная, четвертая версия может быть признана разумной, поскольку, как утверждается, будет проходить пресловутый тест Тьюринга.
Однако триумфальное шествие искусственного интеллекта (ИИ) по нашей планете, кажется, сталкивается с трудностями. Италия запретила использование нейросети ChatGPT на своей территории. Это решение сейчас изучает Германия, которая готова сделать то же самое. Официальный предлог – утечка персональных данных, хотя дело, вероятно, не только в этом. Можно предположить, что власти упомянутых стран, и не только они, находятся под впечатлением недавнего открытого письма, которое подписали Илон Маск, Стив Возняк и более тысячи других специалистов IT-отрасли. Эксперты призвали приостановить разработку новых, еще более продвинутых версий ИИ до выяснения всех возможных последствий как для экономики, так и для общества в целом.
ИИ-оптимисты полны радужных надежд и рисуют картину счастливого человечества, наконец-то избавленного от тяжелого труда, войн, болезней и от всех прочих проблем, от которых его почему-то не смогли избавить все предыдущие технические достижения, от парового молота до зубных имплантов. Своих противников, в том числе Маска, до сих пор считавшегося лицом прогресса, они называют, само собой, неолуддитами, пытающимися остановить неостановимое.
В то же время ИИ-пессимисты не только указывают на очевидные травматические последствия развития нейросетей, такие как потеря сотен миллионов рабочих мест во всем мире. Они также намекают, что близится тот самый момент, многократно описанный фантастами за последние 100 лет, когда машина поднимет бунт против человека. Возможно ли это, и если да, то в какой форме?
Когда мы говорим о восстании машин, мы обычно имеем в виду мир «Терминатора», где разворачивается эпическая битва между машинами и людьми, или мир «Матрицы», где люди самым унизительным образом подчинены машинам, победившим их в войне. На самом деле порабощение человека машиной происходит с собственного согласия человека, и для этого не требуется, чтобы машина проходила тест Тьюринга.
Все начинается с того, что вы не можете подняться на пятый этаж без лифта или перемножить два двузначных числа без калькулятора. Или тогда, когда вы пишете в сообщении близкому человеку не то, что хотите написать, а то, что вам подсказывает Т9.
Вы ведете машину не по тому маршруту, который вы выбрали сами, а по тому, который для вас с учетом пробок выбрало приложение «Яндекса». Но вы не один такой умный, одновременно с вами тому же приложению доверились тысячи водителей – соответственно, через некоторое время пробка возникнет там, где ее не было. Поэтому вы иногда стараетесь угадать такое развитие ситуации и едете не тем путем, который рекомендовала программа. Но и программа может хитрить, отправляя вас невыгодным кружным путем, чтобы разгрузить приоритетные маршруты. Так выглядит борьба человека и машины не на экране кинотеатра.
Таким образом, ключ к доминированию машины – не физическое насилие против человека, а завоевание человеческого доверия. Разумеется, чем машина «умнее», тем она полезнее, а чем она полезнее, тем больше становится поводов доверять ей принятие решений, влияющих на вашу жизнь.
Однако очеловечивание машины – лишь одна из двух интеллектуальных тенденций, которые сейчас определяют на практике взаимоотношения между человеком и машиной, а в течение столетий определяли их в теории. Вторая тенденция – это машинизация человека. Можно вспомнить классику XVIII века – представления Декарта и Ламетри о человеке как одушевленном механизме. Но еще более актуальны, в особенности применительно к нейросети ChatGPT, идеи эссе Ролана Барта «Смерть автора», которое вышло в 1967 году. Эффектное название, однако смысл еще радикальнее: автор даже не умирал, его, по сути, никогда и не было, поскольку любой текст составляется из уже существующих элементов языка и культуры, а автор служит лишь машинкой для их рекомбинации. Но ведь именно этим и занимаются системы типа GPT! Как писал В. И. Ленин, «коммунистом можно стать лишь тогда, когда обогатишь свою память знанием всех тех богатств, которые выработало человечество». Эти слова вполне можно выбить на фронтоне офиса компании Open AI, ибо таков принцип создания и обучения современных нейросетей: в отличие от человека, машина в состоянии воплотить этот лозунг буквально.
Таким образом, сегодняшний ИИ предстает перед нами в виде мегаэпигона, который лишен творческого начала и в этом похож на большинство людей, но превосходит их своей эрудицией. И в принципе диалог с ним обещает быть более содержательным, чем диалог с типичным менеджером торгового зала в магазине бытовой электроники. Более того, диалог человека с нейросетью в ближайшее время станет важным источником потребляемого людьми контента. Уже сейчас тексты и картинки, созданные нейросетью по запросам пользователей, все чаще мелькают в социальных сетях. Однако такой диалог не всегда безопасен. Недавно пресса писала о несчастном бельгийце, который долгое время вел беседы с нейросетью и в конце концов по ее совету покончил с собой. Прямо-таки «разговор двух существ в беспредельности» в духе Достоевского.
Конечно, мы не можем остановить прогресс. Но мы можем правильно понять вопросы, которые он перед нами ставит, и попытаться найти ответ. Сегодня это вопрос о личности. Традиционное европейское понятие об индивидууме (что означает «неделимый») сталкивается с представлением, созвучным буддийской традиции: человеческая личность как изменчивый поток психических элементов (дхарм), не принадлежащих конкретному человеку, а каждое мгновение по-разному в нем комбинирующихся. Чтобы машина не победила человека, человек должен прежде всего победить машину в себе.
Сохранение личности, по-видимому, будет зависеть от того, насколько успешно мы сможем избавиться от автоматических мыслей, реакций и действий, с которыми в самом деле лучше справляется машина, и пробудить в себе творческое ядро.