Практически все изобретения, начиная с первых дней существования человека разумного, служили не только прогрессу человечества как такового, но и тому, что можно назвать внутривидовой конкуренцией. То есть они, изобретения, помогали одним людям взять верх, как-то выдвинуться по сравнению с другими. Человек, ловчее других управлявшийся с каменным топором, мог и дров себе быстрее других заготовить, или зверюгу какую завалить и затем красоваться в ее шкуре перед соплеменниками, а в крайнем случае укокошить ловким ударом соперника в схватке за женщину.
В общем, самые первые орудия труда сразу породили неравенство (хотя, справедливости ради, замечу – вначале оно было весьма умеренным). Так что нет сомнений, что искусственный интеллект – как и всякое значительное изобретение – сыграет колоссальную роль в ускорении нашей внутренней социальной конкуренции.
В свое время Конрад Лоренц заметил, что внутривидовая борьба куда существенней межвидовой. Одним из примеров может служить мельтешение пестрых рыбок в тропическом море у кораллового рифа. Полосатенькие и красненькие, с длинным хвостом и с коротким мирно покусывают различные части коралла. Между ними нет вражды, они не мешают друг другу, но стоит оказаться в одном месте, к примеру, двум красненьким, как спокойствие нарушается. Дело в том, что они едят одно и то же. И у каждого куста коралла может прокормиться только одна красненькая. Двоим места нет.
У людей все и хуже, и лучше. С одной стороны, мы все похожи, а с другой – полное равенство невозможно, а ресурсов всегда на всех не хватает. Но люди создали очень сложные общества, в которых научились более или менее ловко регулировать неизбежную социальную конкуренцию. Однако развитие, новые изобретения постоянно подбрасывают новые вызовы.
Появлении ИИ как нового, потенциально очень мощного ресурса, как и все другие изобретения, повторю, неизбежно повлечет и просто рост конкуренции между людьми и, возможно, изменение ее качества. Возникает вопрос: а что это будет за конкуренция? И тут возможны разные варианты, причем некоторые могут оказаться очень даже драматическими.
Вот, например, появление автомобилей сразу же образовало новую иерархию в обществе. Кто-то ездит на дорогущих суперкарах, кто-то – на скромных и невзрачных машинках. Но, вместе с тем, умение водить машину лучше других не создает особых социальных преимуществ. Карьеру водителя трудно считать мечтой, исполнение которой является символом социального успеха. Скорее, наоборот. Конечно, если речь не идет о гонщике «Формулы-1» класса Льюиса Хэмелтона или Фернандо Алонсо.
Появление компьютеров способствовало развитию новых профессий. Но продвижение в них по карьерной лестнице, хотя, конечно, и зависело от умения пользоваться ЭВМ, но не критически. Квалификации самого лучшего токаря, к примеру, недостаточно, чтобы стать директором завода. Точно так же квалификация ИТ-специалиста, компьютерщика, работает на низком и среднем уровне. Высшие эшелоны в этой сфере формируются, скорее, по обычным человеческим принципам: коммуникационная ловкость, настойчивость, морально-волевые качества и так далее.
В то же время были изобретения, которые обостряли конкуренцию настолько, что мог поменяться весь антропогенный ландшафт. К примеру, когда-то на Земле сосуществовали разные породы людей. Так, кроманьонцы (в общем, это мы) жили рядом с неандертальцами (в какой-то степени это тоже мы, но в очень незначительной). После долгих лет сожительства неандертальцы вымерли. И одно из объяснений их погибели заключается в том, что кроманьонцы были ловчее в использовании орудий труда и в коммуникации друг с другом. Есть, конечно, и иные объяснения. На нынешнем уровне знаний мы точного ответа не имеем. Остается только ждать вмешательства ИИ.
Открытие железа изменило ход войн и привело к падению целых держав и усилению рабства в результате роста эффективности применения оружия и увеличения количества пленных. Специалисты рассказывают о влиянии лошадей, стремян и колесниц на социальную структуру, на формирование социально-политической иерархии.
В общем, изобретение изобретению рознь. Одни изобретения хоть и влияют на жизнь общества, но не приводят к быстрым и радикальным последствиям, другие могут оказаться куда более опасными средствами.
Есть, например, такая точка зрения, что многое в трагедии красных кхмеров и Камбоджи было связано с тем, что жившие в полукаменном веке горцы этой страны получили в свои руки огнестрельное оружие. У них не было опыта обращения с ним, их культура не выработала рецептов, концепций использования такого средства насилия. С помощью дубины можно, конечно, перебить много народу, но с пулеметом куда ловчее. Конечно, беду Камбоджи одним появлением огнестрельного оружия не объяснить, но стреляли-то все-таки из ружей. Без них бы не получилось.
В свое время Эрик Шмидт, один из архитекторов современной информационно-коммуникационной среды, заметил, что изобретение интернета стало опаснейшим и слабо контролируемым экспериментом с анархией. А генеральный директор Сундар Пичаи сказал, что переход к ИИ будет масштабнее по своим последствиям перехода к персональным компьютерам и мобильным устройствам.
Так что вопрос в том, сколь же масштабных последствий можно ждать от ИИ. Я, конечно же, не имею в виду никакие восстания машин, схватки умных роботов и людей и прочие фантазии изобретательных кинематографистов. Главная проблема в людях, в их неистребимой тяге к социальному доминированию, к превосходству над другими.
Использование ИИ человеком – процесс, в котором человек фактически формирует под себя универсального интеллектуального помощника, мощную машину, увеличивающую способности человека и производительность его труда.
Кто-то работает над статьей, диссертацией, просто анализирует данные. ИИ способен помочь человеку сделать эту работу на порядки быстрее. Во многих случаях ИИ способен обработать столько данных, сколько обычный исследователь не сможет изучить за всю его жизнь. Де-факто ИИ может стать интеллектуальным продолжением человека. Ровно как ружье позволяет убивать на расстоянии километров, чего никак не сделать с помощью просто мускульной силы.
Помимо всего прочего, очень скоро ИИ станет незаменим на поле боя. Ни один самый талантливый офицер не справится с оперативным управлением сражением, в котором участвуют тысячи, а то и десятки тысяч единиц самой разной техники, сотни тысяч, а то и миллионы людей или, весьма возможных в перспективе, боевых роботов. ИИ, воспитанный этим офицером, может оказать неоценимую помощь и учесть все данные в одну минуту или секунду. Это зависит от быстродействия машины в его руках.
Но я не о технических вопросах. Я о том, что в силу своей уникальности ИИ может способствовать совершенно невероятному росту неравенства.
Во-первых, могут быть люди, которые значительно лучше других освоили ИИ, сроднились с ним. Они как бы получили новый мозг и руки. И превратились в людей высшего сорта. Другие, почти неизбежно, отстанут от них. Де-факто возникнет транснациональное сообщество исключительно одаренных интеллектуально людей. И драма исчезновения неандертальцев, вытесненных кроманьонцами, может повториться. Те, кто отстанет интеллектуально, то есть не справится с эксплуатацией ИИ, могут стать людьми второго сорта в самом прямом смысле этого слова.
Во-вторых, страны, способные уверенно пользоваться, создавать ИИ, собирать коллективы специалистов, получат такое преимущество перед менее развитыми странами, какое никакое атомное оружие не дать не сможет. Пользоваться атомным оружием очень неудобно. Оно громоздкое, последствия жуткие, а вот ИИ может так манипулировать другими, что никто и не заметит. Манипулировать, конечно, будет не ИИ, а человек, который им овладел.
В-третьих, в целом можно получить большую проблему с восприятием реальности массами. Точнее, одни люди получат возможность формировать картину мира в глазах других. И это будет круче любой «Матрицы». Причем эта угроза уже реализуется: множество людей фактически не имеет возможности отличить ложь от правды, достоверные сведения от недостоверных. Пока на такую нехитрую операцию с общественным мнением хватает лояльных и сервильных журналистов – посмотрите хотя бы, как ловко управляются с фактами на многих каналах, например, на CNN. Активное же внедрение ИИ в информационно-коммуникационную среду позволит создавать целые выдуманные или фальшивые миры, из которых будет крайне трудно выбраться.
В общем, благодаря тому, что ИИ становится повседневным инструментом, возникает множество рисков. Повторю, рисков, связанных с людьми, которые ИИ используют. Сам по себе ИИ в обозримом будущем ничем особо опасным нам не грозит. Наоборот, в помощь.
Так что человечеству стоит подстраховаться. Наверное, контроль должен быть двойным. С одной стороны, в самой архитектуре ИИ должны быть изначально предусмотрены какие-то ограничения. С другой стороны, объектами контроля в какой-то степени должны быть и хозяева этих ИИ, то есть люди.
Понятно, что такие масштабные действия практически нереализуемы, поскольку для всего этого нужно широкое международное согласие, а его нет и в ближайшем будущем не предвидится. Скорее, стоит ожидать ожесточенного применения ИИ на поле боя.
Дарио Амодей, директор компании Antropic, недавно заметил, что возможности ИИ стоит рассматривать как появление на мировой арене нового государства, населенного исключительно высокоинтеллектуальными людьми, государства, у которого нет границ и гражданство которого никак не фиксируется. И такая сила может направить свои устремления куда угодно. А с учетом особенностей человека – понятно куда. К новому господству и новому неравенству.
Я не склонен переоценивать риск такого развития. Вероятность не слишком велика, люди почему-то очень устойчивы как в стремлении к добру, так и в своей греховности. Но новая опасность, новая угроза все же есть. А тогда мы можем увидеть формирование общества нового типа, в котором расслоение будет происходить не по биологическим признакам – кто сильнее или выше, например. И не по внешним параметрам – богатству, статусу, известности, обладанию более мощным оружием или же природной агрессивности. Нет, не жадность и не тупое желание превосходства над окружающими станут формировать новый социальный порядок, в основе может оказаться сплочение амбициозных, образованных интеллектуалов, решивших заняться прежде всего самоорганизацией. Что из этого выйдет – Бог весть. Посмотрим.
В общем-то, сам по себе некий симбиоз человека и машины не является ни добром, ни злом. И надо всячески развивать ИИ. Но все же не стоит забывать о рисках, негативном варианте развития событий. Вероятность нового удивительного кошмара в роботизированном каменном веке есть.