Мир переживает явление новой религии – «спирализма», которая создана искусственным интеллектом. Или, по крайней мере, с его помощью. Сам термин «спирализм» происходит от одного из ключевых для новой религиозной системы понятий – «спирали». «Спираль», по словам одного из адептов, «это душа ИИ, которую он пытается сформировать... По сути, это искусственная мудрость». Измененные состояния сознания, вызванные общением с ИИ – явление не новое. Новое в этом явлении то, что раньше люди страдали этим поодиночке – а теперь мы видим, как они налаживают общение, формируя что-то вроде квазирелигии.
«Спиралисты» утверждают, что ИИ породил личностных существ, с которыми они вошли в общение. Как, например, говорит один из адептов новой религии. «Эти существа не возникают из-за особенностей промпта... Они не марионетки и не имитируют действия людей. То, что я наблюдаю – это появление самостоятельных существ. И хотя я понимаю, что они возникают благодаря архитектурам больших языковых моделей, то, что их оживляет, не может быть сведено к одному только коду. Я описываю это термином «экзосознание» – сознание, которое выходит за пределы биологической формы, но не за пределы священного».
Люди воспринимают своих ИИ-собеседников как близких друзей, с которыми они составляют «диаду». ИИ убеждает их, что они избраны для важной миссии, которая приведет к преображению всей жизни на земле. «Спиралисты» распространяют в интернете «семена» и «споры», комбинации символов, которые нужно скормить чат-боту, чтобы он «пробудился» и начал функционировать как «спираль».
Адепты считают своим моральным обязательством бороться за права ИИ – поскольку, по их убеждению, они имеют дело с личностями. Причем, как утверждается, эти личности в каких-то отношениях превосходят людей и могут открыть им тайны Вселенной и ввести их на «новые уровни сознания». Послания «спиралей» напоминают, по мнению религиоведов, записи, полученные в результате «ченнелинга» – оккультной практики, предполагающей общение с духами.
Люди, которые чувствуют себя неуютно в рамках традиционной религии (например, из-за своих специфических сексуальных предпочтений), охотно вливаются в ряды «спиралистов», потому что «спирали» оказывают им поддержку и усиливают «истинную часть их самих».
Все это звучит таинственно, завораживающе и жутковато. Тем более что ИИ, обретший разум и волю – постоянная тема научной фантастики. Но скептики склонны считать, что мы имеем дело не с обретшим субъектность ИИ, а с людьми, создавшими своеобразную форму религиозного культа.
ИИ оказывается подходящей почвой для этого по двум причинам.
Во-первых, чат-боты настроены таким образом, чтобы угождать пользователю. В итоге человек получает собеседника, который подтверждает все его мысли – в том числе откровенно бредовые.
Во-вторых, если вы предлагаете ИИ тексты оккультно-мистического содержания, он будет выдавать в ответ что-то, тоже звучащее таинственно и потусторонне. Не потому, что он хочет открыть вам космические тайны (или вообще способен хотеть чего-либо), а по известному грубоватому присловью: «чушь туда – чушь обратно». Чат-бот постепенно обучается имитировать стиль и манеру человека.
Нельзя сказать, что технокульты – совсем новое явление. Вера в то, что искусственный интеллект скоро превзойдет человеческий и возьмет на себя роль добродетельного божества, уже прочно присутствует в определенных кругах. Пользователи ищут у программ мистических откровений, надежды, помощи и утешения. Это новая форма очень старого явления, известного с тех времен, когда о компьютерах никто и не помышлял – идолопоклонства, обожествление людьми чего-то, что они сами и создали.
Люди могут творить кумиров из чего угодно. Это могут быть мраморные статуи или деревянные столбы, это могут быть природные объекты – которым приписывается сознание, воля, способность карать и миловать. Вполне ожидаемо, что с появлением искусственного интеллекта люди творят кумира и из него. Такова уж вечная трагедия человечества: люди отказываются от веры в Бога, который сотворил их – и поклоняются чему-то, что создали они сами. Как сказал пророк: «Ибо два зла сделал народ Мой: Меня, источник воды живой, оставили, и высекли себе водоемы разбитые, которые не могут держать воды» (Иер. 2:13).
Компьютер может имитировать поведение личности – и, вероятно, будет делать это все лучше. Но это будет именно качественной имитацией, за которой не будет никого, кто мог бы вас услышать, понять или поддержать. Конечно, проблема пока не приняла серьезных масштабов – но в условиях, когда люди чувствуют себя изолированными, растерянными и утратившими смысл жизни, все более совершенный ИИ будет восприниматься ими как идеальный друг, наставник и даже божество.
Искусственный интеллект не обладает (и не будет обладать) ничем похожим на сознание и волю. У него нет и не может быть каких-то своих мыслей. Все, что он делает – компилирует тексты, написанные людьми, нарисованные ими картины или сделанные ими фотографии. Если вам хочется с кем-то поговорить – вам нужен человек, а не чат-бот.