В прошлом году Сеть облетел ролик: беременная женщина разговаривает со своей матерью, рассказывает о своей беременности, говорит, что обязательно покажет и внука... Словом, хорошая дочь. Только общается она с умершей матерью. Точнее, со сгенерированным «аватаром», ИИ-системой, обученной на видео, записях голоса и других материалах, которые в неё загружали.
Таких цифровых аватаров становится всё больше, технологические компании активно продвигают эту услугу. Разумеется, мотивируется всё это лучшими побуждениями: смягчить горе близких, не дать разорваться связи поколений, предоставить возможность внукам ближе узнать своих умерших родственников – словом, маркетологи стараются, как могут.
Отмечу интересный момент: практически все эти сервисы работают по подписке. Интересно, как отреагирует семья, любимого дедушку которой отключат, если внучка забудет продлить абонемент?
При этом цифровые аватары создают уже не только для умерших людей. Вполне живой и деятельный Марк Цукерберг работает над своим цифровым двойником, который должен будет присутствовать вместо него на совещаниях.
Создание цифровых персонажей для романтических отношений и сексуальных экспериментов – уже вполне сложившийся рынок. По данным аналитических агентств, основная аудитория – США, Япония, Южная Корея. В Японии женщина даже вышла замуж за сгенерированного мужчину мечты.
А что если искусственный интеллект используется не просто как эквивалент сущности обычного человека, а как заменитель человека мудрого, наделённого правом разрешать духовные вопросы? Или как некая Сверхсущность, которая может дать ответы на все вопросы, в том числе экзистенциальные. Именно это происходит уже сегодня. За год более 30 миллионов человек скачали приложение Bible Chat. Как сказано в описании, это «приложение на основе искусственного интеллекта, созданное, чтобы помочь вам исследовать и понимать Библию по-новому». Но не только это. Вы можете задать вопросы о своих духовных исканиях, а ИИ ответит.
Bible Chat – приложение не единственное. Уже появилось понятие faith tech, то есть технорелигиозные платформы, аудитория которых исчисляется десятками миллионов человек.
Фото: pvproductions / FreePikКак отмечает врач-психотерапевт Полина Шамрай, опасность ИИ – в его доступности и доверии к нему. Клинических испытаний по поводу результатов действия ИИ на личность человека никто не проводил. У ИИ нет диплома и лицензии, это просто энциклопедия, в которой не ты ищешь ответы, а они электронно подбираются под загруженные аналогичные кейсы. То есть, по мнению специалиста, вы получаете ответы, которые так или иначе подтверждают вашу же точку зрения. Что при нестабильных психических состояниях, конечно, может быть опасно.
С ней согласен философ, популяризатор буддизма Игорь Васильев (Нара Лока):
– Крайне не рекомендую использование роботов для вопросов духовных. Причина: у предметов буквально ноль личного духовного опыта, а нейросеть, ИИ – это предмет, инструмент вроде молотка или дрели, что необходимо понимать. И ответы роботов – это не просто компиляция из трудов великих мастеров и учителей, это мешанина из обрывков информации и местами галлюцинаций, без какого-либо понимания и, опять же, духовного опыта. Который очень важен. Духовное – это для живых людей и про живых людей.
Но как бы неи тревожились представители «духовно активной» общественности и мировых религий, тенденция явно ширится, потому что уж больно легко можно найти ответы.
– Основная опасность использования чего-либо при духовном поиске – в безграмотности, – считает исследователь народной культуры Владимир Борисов. – Люди не понимают, что они творят. Пытаться найти духовную истину с помощью нейросетей – это как идти в поликлинику, если вам надо починить автомобиль. Не нужно ставить нейросети такие задачи, которые она в принципе не способна выполнить. Она просто будет имитировать их выполнение.
Исследователь народной культуры Владимир Борисов. Фото: из личного архиваЧто вы хотите услышать?
«Почему в мире столько зла и страдания? Почему страдают дети?» – с этих экзистенциальных вопросов зачастую начинаются духовные поиски человека. Можно попытаться поискать ответ в разных духовных учениях, можно сходить в храм, а можно задать соответствующий промт искусственному интеллекту. И он ответит. Например, так: «Вопрос “почему страдают дети” – это место, где любая теория звучит недостаточно. И даже внутри христианства это остаётся тайной, с которой люди живут, спорят и иногда даже борются с Богом. Если хочешь – могу рассказать, как разные христианские мыслители (например, Августин, Иов из Библии, современные богословы) по-разному пытались ответить на этот вопрос. Там есть интересные, но непростые идеи)».
Звучит всё вполне логично. И хочется продолжить разговор. А возникающие порой ошибки и явные несуразности в ответах ИИ-систем не останавливают людей, которые снова и снова «идут» к ИИ-собеседникам за советами и консультациями с вопросами, которые ещё недавно обсуждали только с духовными наставниками или психотерапевтами.
– ИИ научились очень хорошо считывать человека, но сегодня их алгоритмы заточены на угождение клиенту, – говорит иерей Святослав Шевченко, ведущий телеграм-канала «Невечерний футуролог». – Следовательно, там, где человека необходимо конструктивно покритиковать, предостеречь или даже предложить обратиться к специалисту – нейросетка будет ему поддакивать. Если человек использует нейросеть как каталогизатор для быстрого поиска нужной информации, которая требует верификации, то не вижу в этом никакого греха. Но если пользователь очеловечивает ИИ и начинает спрашивать практических советов, требовать руководства к действию, – то это опасный эксперимент.
Один из частых запросов современного человека к ИИ – про смысл жизни. В ответ он долго рассуждает о том, что вообще это вопрос трудный, разные люди подходят к нему по-разному (то есть внешне рассуждает совсем как человек!) А порой он может выдать такое: «Иногда жизнь ощущается бессмысленной – особенно в боли, потере, кризисе. И это не “ошибка мышления”, а реальный человеческий опыт. В такие моменты вопрос меняется: не “в чём смысл жизни вообще”, а”есть ли смысл продолжать и что может удержать меня сейчас”».
О том, что результат общения с нейросетками может быть плачевным – известно не первый год. А буквально в эти дни с одной из крупнейших компаний-разработчиков ИИ судятся родители 16-летнего подростка, обвиняя их в том, что потакание желаниям пользователя довело их сына до самоубийства.
Врач-психотерапевт Полина Шамрай. Фото: из личного архиваПолина Шамрай подчёркивает, что «в использовании ИИ для решения любых философских вопросов нет духовной основы. Ведь дух, в том числе святость духовная, могут быть переданы только от личности к личности. Искусственный интеллект – просто следы памяти, которую человечество успело оцифровать. Он не может стать гуру или нести философию – у него нет философии».
Паства не та?
Основной причиной спроса на ИИ-духовность называют лёгкость доступа к информации. И можно, конечно, списать использование «ИИ-священника» исключительно на духовную лень.
– Считаю огромными проблемами нашей эпохи, в период которой возник AI, атомизацию и инфантилизацию общества, – говорит отец Святослав. – Одиночество, обидчивость, безответственность и желание переложить свои проблемы на других – это почва, на которой нейросеть может принести максимальный духовный урон.
На мой же взгляд, явление гораздо глубже и причины его куда разнообразнее. За влиянием высоких технологий на общество я наблюдаю более 30 лет и как журналист, и как писатель.
Думаю, мы проживаем очень серьёзный кризис традиционных институтов передачи духовности. Далеко не первый в истории, конечно, но имеющий свои особенности. Кризис религиозных институтов характерен для любой эпохи серьёзных социальных и экономических потрясений, а мы живём как раз в такое «интересное время».
Но сегодня у людей появилась явная альтернатива условному батюшке, который в пост скоромное ест. И многие люди парадоксально приходят к «технорелигиозному окормлению» как раз по той причине, о которой говорят все специалисты, у которых я попросил комментарии для статьи. Дело в том, что, по большому счёту, ИИ безгрешен. Сторонники «духовного ИИ» прекрасно понимают, что у него нет собственного духовного и жизненного опыта. Но зато у ИИ нет и не может быть груза мирских грехов, он не будет обманывать, он не потребует мзду. А человек, ищущий путь духовного совершенствования под грузом повседневных забот и духовных проблем, не испытает разочарования от того, что священник в обычной жизни ведёт себя совершенно не так, как ему предписывает его вера. ИИ напрямую оперирует «исходными кодами», основными неискажёнными материалами учения и не может грешить.
Футуролог Антон Попов. Фото: из личного архиваТак это или нет на самом деле – вопрос отдельной большой дискуссии. На мой взгляд, очеловечивание ИИ – тенденция очень опасная, именно она ведёт к сваливанию в первобытное магическое мышление куда вернее всяческих новодельных культов, в основе которых всё же лежит человеческий богоискательский опыт.
Но как раз такой подход, «магическое восприятие» технологий, продвигается в массовом сознании техноэлитами. Именно поэтому будет расширяться и рынок технорелигиозных услуг. Вся эта закулисная машинерия для обычного прихожанина, для человека, который лишь вступает на путь духовного поиска, может быть совершенно не очевидна.
В этом, на мой взгляд, и один из главных парадоксов ситуации, и один из главных вызовов сегодняшним служителям религий.
Враг или инструмент?
Так запрещать и проклинать или использовать как инструмент? Варианты ответов есть самые разные. Люди, как говорится, отвечают делом. Например, недавно робота посвятили в буддийские монахи. Произошло это в Республике Корея, робот будет постигать премудрости Срединного пути в ордене Чогеса. А некоторые православные активисты продвигают идею создания своего православного ИИ, который будет фильтровать информацию особым образом.
– Есть вероятность, что нейросети решат проблему языкового барьера, позволяя мгновенно переводить все видео, статьи, книги и речь синхронно и с высочайшей точностью, – оптимистично отзывается об использовании ИИ как инструмента познания Игорь Васильев. – Это было бы абсолютно великолепно, в том числе для сферы духовного, для философии и религий, многим людям открылся бы доступ к знаниям, накопленным за тысячелетия, но ранее спрятанным за языковым барьером. Люди всей планеты могли бы свободнее общаться. Это было бы очень полезно для человечества. Но инструменты важно использовать с соблюдением техники безопасности и не путать предметы с людьми, даже если предмет «разговаривает». А искусственный интеллект – это именно «предмет», вещь.
Философ Игорь Васильев (Нара Лока). Фото: из личного архиваВажность осознания того, что искусственный интеллект – инструмент и не более того, напоминает и Владимир Борисов.
– Надо сразу сказать, что ИИ в классическом определении этого понятия на сегодняшний день не создан. У полноценного ИИ должны быть такие ключевые признаки, как способность иметь собственные намерения, осознание себя как субъекта определённой деятельности. Нейросеть таковым не является. У неё нет собственной воли, понимания смысла того, что и зачем она делает. Скажем, если вы дадите нейросети задачу положить определённые стихи на джазовую музыку, она выполнит это задание, не анализируя, насколько текст в принципе подходит для стиля. Я же прикину, стоит ли использовать джаз. Если нет – буду решать задачу, например, в фолк-роке. Нейросеть не творит – она вычисляет.
Владимир Борисов подчёркивает очень важный аспект: полноценный универсальный ИИ должен уметь переносить полученные знания из одной области в другую без дополнительного обучения.
Пока же создание ИИ не случилось, по мнению Борисова, нейросети будут всё активнее использоваться для любительского творчества, создания несложного контента вроде «милых котиков и простеньких песенок».
У меня же, когда я собирал материал для этой статьи, всё чаще возникал вопрос: не потеряет ли себя в высокотехнологичной «духовной матрице» сам человек? Сможет ли выработать правила техники безопасности использования новых инструментов?
Ведь, по сути, сегодня системы ИИ и нейросети разработаны и вброшены в свободный доступ как раз для того, чтобы человечество их обучало. Создатели и разработчики этих систем честно признаются, что сами до конца не понимают, как ИИ-системы будут развиваться и какое влияние начнут оказывать на людей.
И духовный поиск – одна из наиболее сложных областей влияния и одновременно самая, пожалуй, важная для всей человеческой цивилизации.
Конечно, будет здорово, если ИИ станет некоей всеобъемлющей информационно-духовной системой, помогающей человеку подключаться к своеобразной искусственной ноосфере планеты, всем накопленным знаниям и мудрости. Аналогом Эйвы из фильма «Аватар», расширенным самосознанием человечества, не зависимым от воли политиков и сиюминутных стремлений.
Можно ли исключать, например, такой вариант: вы создаёте себе цифрового двойника (привет, Цукерберг), накачиваете его своими духовными вопросами и отправляете в путешествие по сети, дав задачу собрать максимум информации, смоделировать изменения в личности в ходе такого духовного поиска, обозначить возможные зоны духовного кризиса и временные промежутки кризисных периодов. Всё, промт для ИИ готов.
Иерей Святослав Шевченко. Фото: из личного архиваВ упрощённом варианте такой «духовный анализ» можно провести уже сейчас, и ответы вы, скорее всего, получите внешне разумные. Узнаете о возможных проблемах на духовном пути. Но будет ли это ваш опыт? Изменится ли ваша душа, станет ли ближе к Богу? Как раз от такого варианта развития событий предостерегает отец Святослав Шевченко.
– В краткосрочной перспективе в каждом устройстве будет персональный помощник, который сможет спланировать ваш день, записать на приёмы к специалистам, поддержать беседу. И однажды он узнает человека так, как тот сам себя не знает. Станет больше чем другом, его альтер-эго, внутренним голосом человека. А вот это уже проблема, которая имеет сотериологическое значение. Для православного человека потерять свою духовную идентичность – это хуже смерти.
Лично я согласен с отцом Святославом в том, что скоро ИИ-агенты будут знать о человеке больше информации, чем сам человек. С одной оговоркой: узнают не они сами, ведь они просто инструменты. Узнают те, кому эти ИИ-агенты принадлежат. Можно называть их техноэлитами, владельцами транснациональных корпораций – в данном случае термин не так важен.
Важно то, что эти люди получат огромный массив знаний, позволяющий им направить духовные искания огромного количества людей в нужное им русло. В буквальном смысле слова создавать виртуальную религиозную реальность по конкретным параметрам и с конкретными целями.
Чем ответят небеса?