Почему через 300 лет на Земле будут доминировать не люди
Первая книга Юваля Ноя Харари, «Sapiens: Краткая история человечества», стала международным бестселлером. Непростое путешествие израильского историка по триумфальному успеху Homo sapiens стало фаворитом многих, в том числе Билла Гейтса, Марка Цукерберга и Барака Обамы. Его новая книга «Homo Deus: Краткая история завтрашнего дня» рассказывает о том, что произойдет с человечеством в дальнейшем и о будущей угрозе нашим умственным и творческим способностям.
Недавно я беседовал с Харари для моего подкаста, «Шоу Эзры Кляйна». В этой выдержке, отредактированной для краткости и ясности, мы с Харари обсуждаем развитие искусственного интеллекта и рассуждаем о том, действительно ли цифровое сознание является побочным эффектом цифрового интеллекта, и чем все это грозит для человечества.
Как вы сможете заметить, я в меньшей степени, чем Харари, уверен в том, что компьютеры отберут нашу работу, а люди находятся на грани экономической непригодности. Весьма вероятно, что я ошибаюсь, и Харари приводит веские доводы не в мою пользу.
Мы также говорим о виртуальной реальности и возможности преодоления проблемы экономической бесполезности путем отступления в искусственную страну чудес, которая придаст происходящему смысл и даст объяснение тому, что повседневная жизнь нас отвергает. Харари утверждает, что мы используем эту целебную мазь уже целое тысячелетие, только называем ее по-другому — религией.
Эзра Кляйн: Считаете ли вы, что через 200 или 300 лет люди будут играть главную роль на Земле?
Юваль Харари: Отнюдь. Если бы вы спросили меня о том, что будет через 50 лет, это был бы трудный вопрос, но о том, что будет через 300 лет, сказать легко. Через 300 лет Homo sapiens перестанут быть доминирующей формой жизни на Земле, если, конечно, мы вообще будем существовать.
Принимая во внимание скорость развития технологий, вполне можно предположить, что мы сами себя уничтожим какой-нибудь экологической или ядерной катастрофой. Гораздо вероятнее, что при помощи биоинженерии, машинного обучения и искусственного интеллекта мы усовершенствуем себя в абсолютно другой вид или создадим совершенно других существ, которые займут наше место.
В любом случае, через 200 или 300 лет создания, контролирующие Землю, будут отличаться от нас гораздо сильнее, чем мы отличаемся от неандертальцев или шимпанзе.
Эзра Кляйн: Когда я слышу такого рода аргументы в пользу возможной победы ИИ, мне начинает казаться, что самые мозговитые люди — все эти ваши Илоны Маски, Ювали Харари, Биллы Гейтсы — переоценивают важность умственных способностей. Нельзя говорить, что именно аналитические способности позволили нам взять верх. Этому способствовало умение сотрудничать и другие факторы.
Юваль Харари: Я полностью согласен с тем, что для достижения успеха сотрудничество зачастую гораздо важнее, чем чистый интеллект. Но дело в том, что ИИ, по крайне мере в перспективе, будет способен к эффективному взаимодействию намного больше, чем люди. Возьмем известный пример: сейчас все говорят о беспилотных автомобилях. Огромным преимуществом таких машин над обыкновенными водителями является не только индивидуальность, но и надежность, низкая стоимость и большая их эффективность по сравнению с теми машинами, которые управляются людьми. Но самым главным плюсом беспилотных автомобилей является то, что они могут быть объединены друг с другом и сформированы в единую систему способом, который не работает с водителями-людьми.
Ситуация повторяется и во многих других областях. Если вспомнить о медицине, то на сегодняшний день мы насчитываем миллионы людей-врачей, и между разными докторами нередко возникает недопонимание, но если переключиться на ИИ-докторов, то на деле миллионов разных докторов попросту не окажется. Получится единая медицинская сеть, которая наблюдает за состоянием каждого человека.
Если прямо сейчас, во время нашего разговора, ИИ-врач в Томбукту откроет новую болезнь или новый способ лечения, это информация мгновенно станет доступна персональному ИИ-врачу на моем смартфоне. Некоторые из самых значимых преимуществ ИИ кроются в широких возможностях взаимодействия, а не в умственных способностях.
Много путаницы на тот счет, что понимается под искусственным интеллектом, особенно в таких местах, как Кремниевая долина. По-моему, самую большую неразбериху вызывают понятия интеллекта и сознания. 95% научно-фантастических фильмов основаны на заблуждении о том, что искусственный интеллект неизбежно превратится в искусственное сознание. Они полагают, что у роботов появятся эмоции, чувства, что люди будут влюбляться в них или что они захотят нас уничтожить. Все это неправда.
Интеллект и сознание — не одно и то же. Интеллект — это способность решать задачи. Сознание — это возможность чувствовать. В людях и других животных эти понятия на самом деле связаны между собой. Способы решения задач продиктованы млекопитающим умением чувствовать. Наши эмоции и ощущения действительно являются неотъемлемой частью того, как мы справляемся с трудностями. Однако, если говорить о компьютерах, мы не видим взаимосвязи интеллекта и сознания.
За последние десятилетия были достигнуты огромные успехи в развитии компьютерного интеллекта, и нулевые — в развитии компьютерного сознания. Не существует никаких причин думать, что компьютеры хоть немного приблизятся к развитию в себе сознательности. Их эволюция может разительно отличаться от развития млекопитающих. В случае последних, эволюция привела млекопитающих к высокому интеллекту путем сознательности, но компьютеры могут развиваться по параллельному и сильно отличающемуся от нашего маршруту, который приведет их к интеллектуальности, совсем не вовлекая в этот процесс сознание.
Мы может обнаружить себя в мире бессознательного сверхинтеллекта. Главный вопрос заключается не в том, влюбятся ли люди в роботов или попытаются ли роботы убить людей, а в том, как будет выглядеть мир, в котором живет бессознательный сверхинтеллект. Потому что в нашей истории не было ничего, что могло бы подготовить нас к подобному сценарию.
Эзра Кляйн: Для меня это наиболее интересный аспект ИИ, который почти всегда игнорируют. Мы решаем проблемы потому, что нами управляют чувства. Чувство злости, чувство боли — из-за них мы и пытаемся решать задачи. А на базовом уровне есть еще стремление к размножению, также руководимое такими чувствами, как любовь и влечение.
Значительную часть образа действий не только представителей человечества, но и всех животных на Земле, составляют попытки обеспечить размножение своего вида. Когда я пытаюсь представить ИИ, меня всегда останавливает вопрос, что представляет собой сверхинтеллект без базовых биологических инстинктов к размножению? Даже если представить, что у него будет что-то наподобие сознания, оно не будет таким, как наше.
Итак, у ИИ будет мощный интеллект для решения задач, но какой будет его мотивация? Почему он захочет решать эти задачи? Какие задачи он захочет решить? По-моему, слишком многие, говоря о ИИ, предполагают, что ИИ будет обладать присущим человеку желанием добившись одного, захотеть большего. Он станет лучшим игроком в го, но не захочет на этом останавливаться. Он захочет стать лучше всех в «Монополии». Он захочет еще и обойти всех в Guitar Hero на приставке. Но мне непонятно, так ли это, и что бы сделало это возможным.
Юваль Харари: В первом поколении ИИ мотивацию будут задавать люди, программирующие ИИ, но неизвестно, к чему его приведет запуск машинного обучения. У него не будет желаний, как у человека, поскольку не будет и сознания. У ИИ не будет разума, но он может выработать алгоритмы поведения, находящиеся далеко за гранью нашего понимания.
Основная привлекательность машинного обучения, DeepMind (британская компания, занимающаяся искусственным интеллектом, — прим. переводчика) и ИИ для разработчиков состоит в том, что ИИ может начать распознавать закономерности и принимать решения так, что человек не сможет это сымитировать или предвидеть. Это означает, что мы не способны реально предсказать, как ИИ будет развиваться. Частично опасность заключается именно в этом. Мы по определению не можем представить сценарии, в которых ИИ перерастает человеческий интеллект.
Эзра Кляйн: Тогда почему, учитывая всю неопределенность касательно как разработки ИИ, так и того, что он будет из себя представлять, вы так убеждены, что через 300 лет человек не будет доминирующей формой жизни?
Юваль Харари: Дело не в том, что я переоцениваю ИИ. Дело в том, что многие переоценивают человека. Чтобы заменить большинство людей, ИИ не потребуются какие-то невероятные способности. Бо́льшая часть того, что политической и экономической системе нужно от человека, довольно проста.
До этого мы обсуждали управление автомобилем и диагностирование болезней. Это то, что ИИ в скором времени сможет выполнять лучше людей, даже не обладая сознанием, не обладая эмоциями, чувствами или сверхинтеллектом. Сейчас большинство людей занимается какими-то определенными видами деятельности, в которых ИИ скоро станет лучше нас.
Если вернуться в эпоху охотников и собирателей, история уже другая. Было бы крайне сложно создать робота для охоты и собирания, который был бы лучше человека. Но создать самоуправляемый автомобиль, который лучше, чем таксист-человек? Запросто. Создать ИИ, диагностирующий рак лучше врача-человека? Запросто.
Сейчас, в 21 веке, мы обсуждаем возможность того, что большинство людей потеряет свою экономическую и политическую ценность. Они станут своего рода огромным бесполезным классом — бесполезным не с точки зрения их детей или родителей, но бесполезным с точки зрения экономической, военной и политической системы. Как только это происходит, у системы пропадает стимул инвестировать в человека.
Эзра Кляйн: Позвольте мне усомниться. Предположим, эти изменения произойдут в ближайшие 50, 100, 150 лет.
Юваль Харари: Пятьдесят лет это весьма и весьма мало.
Эзра Кляйн: Я понимаю, но для экономики этого может быть достаточно. Другими словами, в 1900 году огромная часть американского рабочего населения занималась сельским хозяйством. Но к 2000 году все совершенно изменилось. Фермеры составляли крошечный процент от всего населения.
Касательно ваших слов о экономической бесполезности — мы заменили очень «полезные» рабочие места вроде фермеров множеством должностей, подобных моей и объективно менее полезных. Нужны ли миру мои подкасты и статьи? Нужны ли ему ваши интересные книги о возможном будущем? Скорее всего, нет.
В плане экономики нам хорошо удается выдумывать, что же нам нужно. Мы выдумываем зеленые бумажки, представляющие наши деньги, и выдумываем ценность вещей, купленных на эти зеленые бумажки. Мы смогли убедить себя, что виноградный сок, простоявший достаточно долго, становится прекрасным напитком под названием «вино» и может стоить тысячу долларов!
Мы можем достигнуть того, что такси будут управлять компьютеры, а мы просто будем говорить друг другу, что на самом деле нам нужно больше инструкторов по йоге или по медитации. Вы сколько угодно можете говорить «Что ж, потом это будут делать компьютеры», но я сомневаюсь, что наш вид не сможет находить что-то, по нашему мнению, имеющее ценность.
Мне не совсем понятно объединение понятий человека полезного и человека ценимого. «Полезный» — это в какой-то степени нормативное суждение. Ценность является выдумкой — мы сами решаем, что имеет ценность, и у нас хорошо получается выдумывать, чего же мы хотим.
Юваль Харари: Думаю, на это есть две точки зрения. Во-первых, рассмотрим возможность того, что новые рабочие места будут появляться по такому же принципу, как фермеры перешли на заводы, потом в сферу услуг, а теперь учат йоге. Проблема в том, что у людей по сути два известных нам вида способностей: физические и умственные.
В прошлом, когда машины начали составлять конкуренцию нашим физическим способностям на полях и заводах, все больше и больше людей уходили в деятельность, где требовались в основном умственные способности. Теперь машины начинают конкурировать с нами и в этой сфере, и мы не знаем, есть ли третий вид способностей, которые мы сможем использовать, чтобы перейти на другой вид работы.
Эзра Кляйн: Могу я предложить? Том Фридман, мастерски заключающий мысли в компактную словесную оболочку, любит говорить, что мы переходим от работы разума к работе сердца. Мне кажется, что эта способность заключается в том, что человеку нравится общаться с другими людьми. Я мог бы обучаться йоге с помощью компьютера, но я этого не делаю.
Хороший пример — вы. Вы на 60 дней уезжаете в дом отдыха, где молча медитируете. Разумеется, у нас уже есть компьютеры, способные сопоставить информацию о медитировании, которая есть онлайн, способные прочесть все когда-либо написанные книги о медитации и выдать распечатку, а затем можно одному 60 дней сидеть в комнате, причем бесплатно — но вам хочется присутствия людей, вам хочется общения.
Я считаю, что в нашей экономике многие виды работы имеют именно такой характер. Даже сейчас многие должности бесполезны. Во многом книги похожи на компьютеры — книги могут столько всего делать за нас, но мы этого не позволяем. Вы, кажется, преподаете в университете. Можно просто дать студентам прочитать определенные книги, но им нравится, что у них есть преподаватели. Им нравится, что есть помощники учителя. Им нравится, что их окружают другие студенты. То, что человек умеет делать, и умеет уже довольно долго — это взаимодействовать с другими людьми.
Юваль Харари: Весьма вероятно, что вскоре компьютеры смогут распознавать человеческие эмоции лучше, чем сами люди. Когда вы идете к врачу, вам нравится, когда другой человек взаимодействует с вами и понимает вас. Врач делает это, анализируя выражение лица, тон голоса и, конечно, вашу речь. Таким образом, врач-человек может судить о вашем эмоциональном состоянии, будь то страх, скука, злость, или что-либо еще.
Мы еще не достигли, но приблизились к тому моменту, когда компьютер сможет распознавать такие биологические алгоритмы лучше, чем человек. Эмоции не являются неким мистическим феноменом, который могут понять только люди. Компьютер будет способен уловить такие сигналы, которые не под силу уловить человеку. При наличии биометрических датчиков на теле или внутри него компьютер сможет определить эмоциональное состояние куда точнее, чем человек. Даже в этом ИИ будет иметь преимущество.
Стоит еще подумать вот о чем. В 20 веке люди, которые потеряли работу в сельском хозяйстве, получили работу на фабрике. Работу с низкими требованиями к квалификации трудящегося. А когда эта работа стала не столь нужна, появились такие же нетребовательные к квалификации должности в сферах обслуживания, вроде кассиров. Проблема в том, что в 21 веке такая работа будет не нужна, и переучивать людей для выполнения высококвалифицированной работы будет непросто. Если в 50 лет человек потеряет работу таксистом и должен будет, к примеру, открыть себя заново в качестве учителя йоги, для него это будет очень и очень тяжело.
Эзра Кляйн: По этому вашему сценарию получается крайне непродуктивный и ориентированный на удовольствия мир. Честно говоря, меня развитие виртуальной реальности пугает куда больше, чем развитие ИИ.
Легко представить себе, как в мире, где люди теряют свои экономические функции, они пытаются сбежать в виртуальную реальность. Она уже неплохо развита, а что будет через 20 лет? Представляли ли вы себе такое будущее, в котором проблема экономической бесполезности решается путем отвлечения социальных масс?
Юваль Харари: Да, я уверен в том, что другая проблема, связанная с ИИ, носит не столько экономический, а экзистенциальный характер. Если вы потеряли работу или, скажем, правительство предоставляет всем единое базовое пособие или что-то вроде того — что же делать со смыслом жизни? Чем вы будете заниматься весь день?
И здесь, из всех занятий, имеющихся на сегодняшний день, лучше всего на эту роль подходят наркотики и компьютер. Люди будут все чаще и чаще прибегать к всевозможным биохимическим веществам, корректируя свое настроение, и все больше и больше будут взаимодействовать с трехмерной виртуальной реальностью.
Идея о том, что люди будут искать смысл жизни в виртуальной реальности, не нова: ей уже много лет. На протяжении тысячелетий мы обращались к играм в виртуальной реальности в этих поисках. Просто раньше мы называли это религией.
Религию ведь вполне можно представить как игру в виртуальной реальности. Вы изобретаете правила, которых в действительности не существует, но вы верите в них и стараетесь следовать им всю жизнь. Если вы христианин, то за соблюдение вы зарабатываете очки. Если вы грешите, вы теряете очки. Если к концу игры, то есть к тому моменту, когда вы умрете, у вас будет достаточно очков, вы переходите на следующий уровень. Вы отправляетесь в рай.
Люди играли в эту игру на протяжении тысячелетий и благодаря ей оставались относительно довольными, жили счастливо. В 21 веке у нас появится технология, благодаря которой можно создать куда более убедительную виртуальную реальность по сравнению с той, в которой мы пребывали последние тысячи лет. У нас появится возможность сотворить ад и рай, и не в нашем воображении, а с использованием битов и связью между мозгом и компьютером.
Конфиденциальность гарантирована