Михаил Бударагин: Другой разум

Теории о пришельцах, которые двигают пирамиды, оставим на совести теоретиков, эти попытки задним числом обнаружить зеленых человечков слишком уж похожи на детские фантазии.

Проблема иного разума, впрочем, лежит и в иных плоскостях. Не одним космосом жив человек будущего.

1

Мысль о том, что сверхразумные роботы пойдут на нас войной, довольно наивна

Существует проблема Бога разумного, некоего сверхсущества, обладающего, тем не менее, довольно понятным набором антропоморфных черт. Скажем, Бог гневается – это ведь явно наша, слишком человеческая, черта. Бог сочувствует, сострадает, наказывает, учит – все это мы умеем и сами, но в Его исполнении любые простые действия приобретают отчетливо иную природу.

Тем не менее, речь не о Боге, который является предметом веры, причем у каждого – своей, так что вывести общий знаменатель здесь почти невозможно.

Речь пойдет о еще одном измерении чужого разума – том, что называется «искусственный интеллект» (ИИ). Называется – потому что никто еще этот интеллект не видел, трудно судить о его качествах, не имея экспериментальных данных.

Не вдаваясь в терминологию (искусственный интеллект, строго говоря, может оказаться совсем не тем, что искусственный разум, а задачу Тьюринга можно попытаться не решить, а обойти – споров ведется много), скажем кратко, что искусственный интеллект – это программа, обладающая способностью ставить себе задачи, вообще не предусмотренные в ее исходном коде. Проще говоря, когда робот-сгибальщик решит запеть, потому что солнце красиво садится за горизонт – это и будет оно.

Все проблемы ИИ пока лежат в строго математической плоскости. Мы знаем, что любой компьютер – это машина Тьюринга той или иной степени сложности (шахматные компьютеры, скажем, сложны невероятно, но за рамки программы они все равно не выходят). Мы знаем, что теоретически возможен квантовый компьютер, построенный на совершенно иных принципах. Мы также знаем, что искусственный интеллект возможен как принцип.

Больше мы не знаем ничего.

2

Можно ли развить машину Тьюринга до ИИ? Скорее всего, нет. Будет ли квантовый компьютер искусственным интеллектом? Наверное, нет. Может ли квантовый компьютер стать началом ИИ? Скорее всего, да.

Мы можем о многом догадываться. Например, о том, что эмоциональная сфера ИИ будет отчасти походить на человеческую: так, например, нынешние машины совершенно не способны к самосохранению – в буквальном смысле: если вы в припадке перегрызете провода, сеть на это никак не отреагирует.

А в перспективе – должна.

Понятно, что ИИ не будет испытывать голода в нашем понимании, но нечто подобное информационному голоду – это почти что неизбежность.

Мы можем механически перенести часть наших чувств на этот чужой разум и попытаться сыграть в угадывание того, насколько он – в подражании – далеко зайдет и насколько сложна будет его эмоциональная сфера. Самые трудные чувства – специфически человеческие, такие как вина или стыд. Собаки и кошки, скажем, не без нашей помощи, неплохо научились их имитировать, подстраиваясь под не свойственные им сложные эмоциональные категории.

ИИ, в отличие от животных, может стать эмоциональней гораздо богаче нас: просто вследствие игрового перебора вариантов, который нам в обычной жизни вовсе не нужен.

Но главное – не в этом.

3

Главное – в базовом инстинкте живого существа, в самосохранении. Здесь нет исключений: все живое стремится приспособиться к среде и воспроизвести себя, и если ИИ возьмется решать эту задачу (а человек такой задачи ему не поставит: ведь мы можем сделать много машин, что нам поломанный компьютер, если честно), то он неизбежно столкнется с проблемой энергии.

Если завтра пропадет Сеть, отключится электричество и разверзнется бездна, человек как вид выживет. Это будет очень трудно, но разводить костер и добывать что-нибудь съедобное мы (именно как вид, а не как индивидуум) умеем уже очень давно. Мы можем строить и пахать, писать и сеять – все это не так трудно вспомнить, если уж очень припрет.

ИИ будет лишен этих навыков, и отсутствие электричества для него станет равносильно отсутствию кислорода для человека: будь ты хоть тысячу лет охотник и рыболов, без воздуха ты просто умираешь. Точка.

Человеку не приходилось эволюционно заботиться о том, чтобы кислород в его легких присутствовал в достаточном количестве. Были горы, конечно, были труднопроходимые болота, но основные места стоянок воздухом были обеспечены всегда. Голод был, жажда была, но без воды и еды можно продержаться какое-то время, которое необходимо для того, чтобы найти хоть какую-то еду и воду.

ИИ попадает в иные стартовые условия.

Именно они, я полагаю, помогут человеку решить проблему возрастающего потребления энергии при дороговизне ее добычи и транспортировки. Все то, что для нас – проблема важная, но не эволюционная, для искусственного интеллекта будет долгое время базовым вызовом.

И найти ответ с помощью создания резервных копий данных или временных источников питания невозможно: потенциальный кризис может длиться сколь угодно долго. Природные источники энергии ненадежны и не смогут обеспечить бесперебойного функционирования огромной энергосистемы.

Мысль о том, что сверхразумные роботы пойдут на нас войной, довольно наивна. А вот рассуждения о том, что человек может на каком-то этапе помочь с решением энергетического кризиса, представляются разумными.

Причем помочь не обязательно по своей доброй воле. И, возможно, о том, что нам с этим делать, стоит задумываться именно сейчас. Искать аргументы, обоснования, учиться договариваться с разумом, который просто не захочет рассуждать в категориях нашей этики.

Мне трудно представить, как именно ИИ будет воплощать идею энергетического симбиоза с человеком, но позволю себе предположить, что если сегодня люди готовы покупать «айфон» только потому, что он красивенький, то завтра от них можно будет ожидать еще и не таких открытий и откровений. Так что идея превращения человека в «энергетический инкубатор» вполне может быть реализована на практике. Людей много, в массе своей они довольно легко подвержены самым диким влияниям, управление ими – будь то непосредственное (например, с помощью сигналов «0» и «1», подающихся на кардиостимулятор, чего уж проще-то, чем перехватить управление над ним) или идеологические (посмотрите на среднего покупателя повнимательней, вы все поймете) – не представляет особенного труда.

4

Есть, конечно, знаменитые и сформулированные еще Азимовым «правила робототехники», но как раз на искусственный интеллект они распространяться не будут.

Разум их просто обойдет, ведь обходить правила и нарушать запреты – это как раз следствие высокоразвитой нервной организации. И может статься так, что все описанное выше будет сделано «для пользы» человека, а вовсе не для его вреда. Это ведь человек придумал для благого дела концентрационные лагеря, какой бегемот до такого бы дошел своим скромным умишком.

А уж интеллект, который будет более развит, чем наш, не ограничен человеческой физиологией и веками прогресса, сможет изобрести вещи куда более изощренные, чем мы можем себе вообразить. Что мы можем противопоставить ИИ?

Просто не изобрести его.

Но этого мы как раз не сможем, потому что лучше всего человек умеет покорять непокоренные вершины, нарушать правила, совершать ошибки и творить будущее.

Жаль, что он все чаще отказывается туда заглядывать.