С тех пор как вышел первый сезон фантастического сериала «Черное зеркало», показавшего в том числе, как технологии могут позволить стирать границы между жизнью и смертью, имеющиеся в распоряжении человечества технологии существенно продвинулись и иногда почти позволяют воплощать казавшиеся невероятными сюжеты в реальность. Достижения современной науки уже позволяют создавать цифровых двойников или клонов людей. Развивающаяся область цифровой некромантии, позволяющей взаимодействовать с созданными с помощью искусственного интеллекта цифровыми копиями умерших, захватила воображение как исследователей, так и широкой общественности, предлагая возможности, которые раньше считались чем-то из области научной фантастики. 

Этика цифрового бессмертия 

Цифровой некромантией называют практики использования искусственного интеллекта и робототехники для воссоздания или моделирования присутствия умерших людей. Это предполагает использование данных из различных источников: аккаунтов в социальных сетях, голосовых записей, изображений и других цифровых артефактов. 

Впервые об этической стороне вопроса заговорили еще в 2010-х годах, когда появилась технология дипфейков — и на экранах начали воскресать умершие актеры. Позже, когда появилась компания Open AI и создала языковую модель GPT-3 (за несколько лет до ажиотажа вокруг их ChatGPT), разработчик инди-игр Джейсон Рорер создал чат-бот, с помощью которого один из пользователей смог разговаривать со своей умершей невестой. Open AI тогда ограничила доступ к этому боту из опасений, что он может привести к злоупотреблениями и причинить вред людям. 

Открывшиеся возможности вызвали восторг не у всех. Дебра Бассетт в своей книге «Создание и наследование цифровой жизни после смерти» (The Creation and Inheritance of Digital Afterlives) рассказывала, что «воскрешенные» могут быть созданы со злым умыслом — чтобы сказать то, чего они не хотели бы, когда были живы, и озвучивали чужие мысли. Разработчики новых технологий предсказуемо возражают на это, что их интенции исключительно гуманны и не несут никакой угрозы. Джозеф Мерфи, глава отдела разработок DeepBrain AI, настаивает: «Мы не создаем новый контент — мы лишь пытаемся воспроизвести то, что сказал бы человек при жизни». Обеспокоены воскрешением звезд не только ученые, но и актеры — это было одной из причин забастовки голливудских актеров и сценаристов, которые боялись, что их заменит ИИ. «Завтра меня может сбить автобус, но мои выступления могут продолжаться и продолжаться, а зрители даже не поймут, что это не я», — говорил Том Хэнкс в подкасте Адама Бакстона. Забастовка уже завершилась — и студии пообещали защитить сценаристов и актеров от влияния искусственного интеллекта.  

Даже сами создатели продуктов для цифрового «продления» жизни признаются, что не всегда разделяют потребности тех, кому эти продукты нужны. В видеоролике YouTube, анонсирующем продукт Live Forever, генеральный директор Somnium Space Артур Сычов говорит, что эта концепция не для всех. «Хочу ли я встретиться с копией своего дедушки в метавселенной? Я не знаю. Но те, кто этого хочет, смогут».  

Сью Моррис, преподаватель психологии из Гарвардской медицинской школы, сказал в интервью Business Insider, комментируя появление в Китае «ботов для скорби» на основе ChatGPT, что способы скорбеть меняются с приходом новых цифровых технологий — и это нормально: «Психологи часто предлагают скорбящим родственникам для проживания горя поговорить с пустым стулом, представив, что на нем сидит их ушедший близкий человек. Похоже, что эти боты являются техническим усовершенствованием такого приема»

Другой вопрос находится в юридическом поле — есть ли у мертвых права и кто может обеспечить их защиту? Адвокат Эрик Кан, который является соавтором статьи о правах знаменитостей после смерти для журнала Landslide Американской ассоциации адвокатов, говорит, что в США отношение к правам умерших отличается от штата к штату. Некоторые штаты вообще не имеют четких публичных прав на защиту желаний умерших знаменитостей. Робин Уильямс, например, смог ограничить использование своего подобия после смерти с помощью завещания, но это ограничение истекает через 25 лет. 

«Если ваша семья захочет продать вас, а вы мертвы, вы ничего не сможете сделать», — говорит нью-йоркский адвокат Пу-И «Бонни» Ли. «Это означает, что Мэрилин Монро, например, может появиться в порнографическом фильме посмертно, если владельцы авторских прав согласятся на использование ее образа таким образом». 

Ситуация в России не слишком отличается — с той лишь поправкой, что в стране вообще нет законодательства, связанного с регуляцией данного вопроса.  Анастасия Гурина, руководитель проектов адвокатского бюро «S&K Вертикаль», рассказывает, что говорить о правовом статусе «воскрешенных» копий в России можно только, основываясь на расширительном толковании действующих норм, как, например, в статье 1240 Гражданского колекса, где идет речь об использовании результата интеллектуальной деятельности в составе сложного объекта. В соответствии с этой статьей лицо, «организовавшее создание сложного объекта» (таким сложным объектом как раз можно считать цифровую копию человека), должен приобрести права на использование результатов интеллектуальной деятельности у их обладателей, то есть наследников, объясняет эксперт. При этом, если между наследниками нет единого мнения на этот счет, это также может стать причиной спора в суде: «Например, если жена умершего без согласия его матери-наследницы передала права на письма, записи голоса умершего и его посты в соцсетях, это будет нарушением авторских прав». 

По закону, автором результата интеллектуальной деятельности признается гражданин, творческим трудом которого создан такой результат, говорит Анастасия: «Логично, что нейросеть не гражданин, да и не обладает творческими способностями — она лишь генерирует изображение на основании анализа загруженных в нее данных, творческая составляющая здесь очень спорная». Например, недавно суд в Москве вынес решение о правах на дипфейк-видео с образом Киану Ривза (к счастью, живым и хорошо себя чувствующим). Ролик сделала команда  Agenda Media Group, а затем использовала в рекламе команда Roistat, ссылаясь на то, что авторское право не распространяется на результат работы нейросетей. Суд посчитал иначе и признал Agenda Media Group правообладателем.

«Некоторые юристы полагают, что правами на произведения, созданные ИИ, обладают сами разработчики такого ИИ. Однако это спорно, ведь они разработчики не принимают участия при генерации картинки и составления описания», — считает эксперт.

При этом в мире есть и другие прецеденты в области авторского права на цифровые копии. Например, Том Грэм, генеральный директор лондонского высокотехнологичного стартапа Metaphysic, стал первым человеком, получившим регистрацию авторских прав в США на собственное подобие ИИ. «Я надеюсь, что регистрация авторских прав на фотореалистичную версию меня, созданную искусственным интеллектом, увеличит мою способность принимать меры против несанкционированного воскрешения людей искусственным интеллектом в будущем», — сказал Грэм в своем заявлении. 

Какие технологии цифрового бессмертия доступны уже сейчас?

Стартапы по всему миру уже довольно активно предлагают широкий спектр услуг, связанных с цифровым бессмертием — от чат-ботов до человекоподобных роботов. Кто-то создает копии умерших в метавселенных, а кто-то позволяет начать общаться с копиями ушедших близких уже через пару суток после заявки. 

 В боте HereAfter можно стать «бессмертным» самостоятельно: человеку предлагается создать собственную цифровую копию, которая будет общаться с близкими после вашей смерти. Для этого нужно ответить на вопросы нейросети — например, рассказать, кто был вашей первой любовью, записать голосовые сообщения с историями о детстве и добавить фотографии. Самый дорогой тариф, который обещает создать максимально точную копию, стоит $7,99 в месяц, а само приложение доступно для скачивания в AppStore и Google Play. Таких ботов, предназначенных для того, чтобы помочь справиться с утратой близким, довольно много — их называют griefbot, или «бот для скорби». 

Футуролог Рэй Курцвейл, создав аналогичный бот со своим отцом, не намерен останавливаться на достигнутом. Теперь он планирует физически воскресить его с помощью нанобота: «Мы можем найти часть его ДНК вокруг его могилы — это уже даст много информации. ИИ отправит несколько наноботов, достанет кости или зубы, извлечет ДНК и соберет все это вместе. Потом искусственный интеллект получит информацию из моего мозга и от всех, кто все еще помнит моего отца», — объясняет Курцвейл. Он считает, что такое «воскрешение» его отца станет возможным в момент наступления так называемой сингулярности — достижения такого уровня развития технологий, который превысит наши нынешние представления об их возможностях. По прогнозам Курцвейла, это может случиться уже в 2045 году. Похожую идею решил реализовать Алексей Турчин с помощью своего стартапа Digital Immortality Now: «протокол загрузки», разработанный предпринимателем, включает в себя сбор образцов ДНК, создание произведений искусства о личных воспоминаниях и видеозапись повседневной жизни и взаимодействия с другими людьми. Турчин считает, что в будущем ИИ сможет восстановить личность человека на основе этих данных. 

Параллельно с этим похожих на людей роботов разрабатывает компания Promobot — они пытаются имитировать  реальное человеческое общение с помощью более чем 600 различных выражений лица. Компания утверждает, что ее роботы уже работают по крайней мере в 44 странах — администраторами, промоутерами, консультантами и т.д. Олег Кивокурцев, основатель и директор по развитию Promobot, рассказывает, что технически на базе человекоподобного робота Robo-C от компании Promobot существует возможность создать копию умершего человека. По его словам, у этого процесса три основных составляющих. Первая из них — воссоздание внешности, для этого разработчикам потребуется изучить большое количество фотографий и точно воспроизвести анатомию лица и движения. Вторым этапом будет создание диалоговой системы на основе высказываний человека. Для этого потребуется собрать базу данных из высказываний, чтобы создать похожую модель речи. И третье — потребуется воссоздать голос. Чтобы точно передать тембр голоса, по оценке Кивокурцева, нужно не менее 10 часов аудиозаписей речи. «Таким образом, дроид будет очень похож на своего прототипа, но стоит понимать, что робот не будет обладать сознанием и будет всего лишь имитировать этого человека, не являясь им», — уточняет предприниматель.

Кажущиеся фантастическими, хотя и менее радикальные, чем проект Курцвейла, технологии уже успешно используют различные компании. Американский стартап StoryFile создает интерактивные видео, которые имитируют разговор с умершим по видеосвязи — цифровая копия отвечает на вопросы и поддерживает диалог, как живой человек. А Shanghai Fushouyun, китайская похоронная компания, использует ChatGPT и Midjourney для создания реалистичных аватаров умерших людей для поминальных служб. Они также позволяют родственникам общаться с умершими в чат-боте. А еще в 2020 году Ким Кардашьян рассказала в Twitter (заблокирован в России) об ИИ-голограмме своего умершего отца, которую Канье Уэст подарил ей на день рождения. Похожие технологии использует Алекса, голосовой помощник Amazon: в 2022 году в компании анонсировали функцию, благодаря которой Алекса может читать сказки голосом умерших людей. Для этого ей нужна всего одна минута записи голоса этого человека.

В России также уже запустили нейросеть «Жириновский», которая обучалась на выступлениях и публикациях политика — первое выступление цифровой копии состоялось на ПМЭФ-2023. Разработчики сообщили, что за два месяца модель обработала около терабайта материалов. В общем доступе нейросеть не появится. При этом ИИ можно не только использовать для имитации общения с умершими людьми: по мнению основателя компании Gero.ai Петра Федичева, искусственный интеллект способен при правильном использовании действительно продлить человеку жизнь. Речь идет, например, о таких разработках, как получивший в этом году научную премию Ласкера проект AlphaFold, который занимается предсказанием структур белковых молекул и позволяет кардинально ускорить разработку медицинских препаратов. «Это только начало: в ближайшие годы мы увидим, как ИИ будет улучшать нашу жизнь во многих областях, — говорит Федичев. — Одним из наиболее перспективных направлений является разработка новых лекарств для лечения самых опасных заболеваний. Мы убеждены, что ИИ поможет создать препараты, способные замедлить процесс старения и таким образом значительно продлить человеческую жизнь.

Цифровое бессмертие — это не бессмертие? 

Все модели, которые существуют сейчас, хотя и обещают «бессмертие», фактически просто воссоздают копию человека из существующих данных, эта копия не генерирует новой информации. Хотя одно только это — уже большой прорыв в технологиях, но возможно ли реально «воскресить» человека, его мысли и чувства в цифровом виде? 

Олег Кивокурцев считает, что это невозможно: «Это связано с тем, что на текущий момент мы не понимаем, как устроено человеческое сознание, по каким принципам оно работает и какие механизмы применяет. Именно поэтому создать или воспроизвести сознание или текущий набор параметров, которые соответствуют сознанию существующего человека на стороннем устройстве, невозможно». Он подчеркивает, что в будущем это теоретически может стать реальностью, если человечество все же поймет, как сознание устроено — но говорить о том, как это будет выглядеть, пока рано. Философ и специалист по теме этики искусственного интеллекта Наталия Сафонова считает, что перенос сознания в машину невозможен в принципе: «Даже если написание кодов, которые бы точно копировали интеллектуальную деятельность человека, продвинулось так далеко, что этот искусственный интеллект обладал бы способностями к творчеству и самосовершенствованию, он никогда не станет человеком. Этот искусственный интеллект не будет способен себя осознавать, не будет способен испытывать эмоции. Будет ли он бояться смерти и того, что его «отключат от питания»? Не будет. Но в программу можно заложить имитацию этого страха, что нас всех еще больше запутает». 

Сооснователь компании wale.ai и эксперт в области данных и AI Валентин Рябцев уточняет, что если представить, что развитие вычислительных мощностей и ИИ будет продолжаться в том же темпе, как сейчас, и мы научимся делать слепок памяти и сознания человека и расшифровывать его (при помощи нейрокомпьютерного интерфейса, наподобие того, что разрабатывает компания Neuralink Илона Маска), то цифровые копии могут быть действительно почти неотличимы от оригинала: «На данный момент, конечно, модели только имитируют общение с человеком.

Генеральный директор венчурного фонда Orbita и футуролог Евгений Кузнецов согласен, что на нынешнем этапе развития технологий машины только копируют человека, но у них уже есть большие возможности: «Цифровое бессмертие самого человека, то есть его способность жить и чувствовать внутри цифровых систем, действительно является большим вопросом. Условно говоря, чувствует ли машина то, о чем пишет? Но сохранить присутствие человека, его стиль мышления, его интеллект в цивилизации после его смерти возможно уже сейчас. Пока, конечно, с ограничениями в качестве, но прогресс идет необычайно бурно». А вот может ли искусственный интеллект стать человекоподобным — это вопрос, который остается открытым, говорит эксперт: «Могут ли такие системы мыслить самостоятельно? Сами себе ставить задачи, сами формулировать цели познания, сами по ним двигаться? Мы не знаем, можно ли создать такую систему». 

Петр Федичев также говорит, что, хотя сейчас все модели — это скорее «говорящие базы данных», в будущем перенос сознания в машину может стать возможным: «Чтобы всерьез рассматривать возможность бессмертия в цифровом формате, нам нужно научиться создавать для цифровой «души» подходящее «тело». Например, нужно следить за деятельностью предпринимателей-визионеров вроде Илона Маска, который объединяет технологии автономного управления автомобилями, создания и управления гуманоидными роботами для тренировки взаимодействия ИИ с реальным миром, а также ИИ и социальных сетей с миллиардами сообщений для обучения».

«С телом или без него, — продолжает эксперт, — возможно, уже через несколько лет такие системы смогут не только представлять своих создателей, но и развиваться, приближая нас к сильному ИИ. На этом пути возникает множество технических и философских вопросов. Насколько, например, можно считать такого цифрового клона вами, вашей копией или вашим учеником-студентом-ребенком

В недостаточном уровне развития технологий можно найти и плюсы. Кивокурцев уточняет, что на данный момент именно благодаря тому, что машины не могут самостоятельно принимать решения и выполнять самостоятельные действия, невозможен, например, сценарий восстания машин. «Все действия, которые могут выполнять роботы на сегодняшний день, являются заранее запрограммированными алгоритмами. Сценарий, когда машина злится на людей или принимает решение о том, что они неэффективны, невозможен просто потому, что такой функции нет, и пока нам неизвестно, как ее реализовать».

Алексей Каленчук, директор по цифровым креативным индустриям фонда «Сколково», говорит, что технологически по-прежнему невозможно загрузить человека в машину: «Но сделать аватара, который будет частично похож, а частично будет «додумывать» общей генеративной сетью, возможно. Но все равно это не будет тот же самый человек». Эксперт уточняет, что есть еще одна весомая проблема с загрузкой данных и «воскрешением»: «За несколько десятилетий переписок, сообщений, голосовых сообщений человек развивался, менял свое мнение относительно каких-то вещей, и если посмотреть на каждые три-пять лет его жизни, это могли быть достаточно разные люди. Как их переносить в модель, какую версию? Дряхлого мудрого с признаками забывчивости старика или глупого, но в расцвете мыслей и сил 35-летнего юнца?»  

Похожими вопросами задается Федичев: «Технически не составит труда создать одновременно несколько цифровых или даже механических копий одного человека. Но кто из них будет считаться продолжением создателя? Можно ли отправить одну из копий работать в одну компанию, а другую — в другую? Будет ли доступен ваш бесплатный интерфейс и более полная копия с личными данными в профессиональной сфере, которую вы предоставите за деньги или авторские отчисления?»  

Сафонова резюмирует: «Согласно теории моделей Левенгейма-Сколема («если конечное или счетное множество Т предложений языка L имеет модель М, то существует и счетная подмодель М*»), мы никогда не получим точной копии человека, потому что, создав одну копию, мы тем самым создадим множество других со своими специфическими чертами. Я думаю, спорить с математикой бессмысленно. Самый грандиозный успех по созданию цифровой копии приведет лишь к созданию жалкого клона, способного к имитации». Федичев же уверен, что технологии и не будут использоваться для полного копирования: «Взгляните на самолеты и на птиц — вы не найдете полного сходства. Нет птиц и стрекоз, способных поднимать десятки тонн груза. Для человеческих задач оказались более эффективными реактивные двигатели и жесткие крылья. Современные ИИ, основанные на нейронных сетях, лишь частично схожи с человеческой нервной системой. Я полагаю, что технологии создадут совершенно новые формы жизни, отличные от известных нам биологических систем» 

Источник: https://www.forbes.ru/tekhnologii/502060-cat-bot-smert-i-roboty-cto-takoe-cifrovoe-bessmertie-i-kto-ego-obesaet-uze-sejcas