Безгрешный ИИ

В прошлом году Сеть облетел ролик: беременная женщина разговаривает со своей матерью, рассказывает о своей беременности, говорит, что обязательно покажет и внука... Словом, хорошая дочь. Только общается она с умершей матерью. Точнее, со сгенерированным «аватаром», ИИ-системой, обученной на видео, записях голоса и других материалах, которые в неё загружали.

Таких цифровых аватаров становится всё больше, технологические компании активно продвигают эту услугу. Разумеется, мотивируется всё это лучшими побуждениями: смягчить горе близких, не дать разорваться связи поколений, предоставить возможность внукам ближе узнать своих умерших родственников – словом, маркетологи стараются, как могут.

Отмечу интересный момент: практически все эти сервисы работают по подписке. Интересно, как отреагирует семья, любимого дедушку которой отключат, если внучка забудет продлить абонемент?

При этом цифровые аватары создают уже не только для умерших людей. Вполне живой и деятельный Марк Цукерберг работает над своим цифровым двойником, который должен будет присутствовать вместо него на совещаниях.

Создание цифровых персонажей для романтических отношений и сексуальных экспериментов  – уже вполне сложившийся рынок. По данным аналитических агентств, основная аудитория – США, Япония, Южная Корея. В Японии женщина даже вышла замуж за сгенерированного мужчину мечты.

А что если искусственный интеллект используется не просто как эквивалент сущности обычного человека, а как заменитель человека мудрого, наделённого правом разрешать  духовные вопросы? Или как некая Сверхсущность, которая может дать ответы на все вопросы, в том числе экзистенциальные. Именно это происходит уже сегодня. За год более 30 миллионов человек скачали приложение Bible Chat. Как сказано в описании, это «приложение на основе искусственного интеллекта, созданное, чтобы помочь вам исследовать и понимать Библию по-новому».  Но не только это. Вы можете задать вопросы о своих духовных исканиях, а ИИ  ответит. 

Bible Chat – приложение не единственное. Уже появилось понятие faith tech, то есть технорелигиозные платформы, аудитория которых исчисляется десятками миллионов человек.

Фото: pvproductions / FreePik

Как отмечает врач-психотерапевт Полина Шамрай, опасность ИИ – в его доступности и доверии к нему. Клинических испытаний по поводу результатов действия ИИ на личность человека никто не проводил. У ИИ нет диплома и лицензии, это просто энциклопедия, в которой не ты ищешь ответы, а они электронно подбираются под загруженные аналогичные кейсы. То есть, по мнению специалиста, вы получаете ответы, которые так или иначе подтверждают вашу же точку зрения. Что при нестабильных психических состояниях, конечно, может быть опасно.

С ней согласен философ, популяризатор буддизма Игорь Васильев (Нара Лока):

– Крайне не рекомендую использование роботов для вопросов духовных. Причина: у предметов буквально ноль личного духовного опыта, а нейросеть, ИИ – это предмет, инструмент вроде молотка или дрели, что необходимо понимать. И ответы роботов –  это не просто компиляция из трудов великих мастеров и учителей, это мешанина из обрывков информации и местами галлюцинаций, без какого-либо понимания и, опять же, духовного опыта. Который очень важен. Духовное –  это для живых людей и про живых людей.

Но как бы ни тревожились представители «духовно активной» общественности и мировых религий, тенденция явно ширится, потому что уж больно легко можно найти ответы.

– Основная опасность использования чего-либо при духовном поиске – в безграмотности, – считает  исследователь народной культуры Владимир Борисов. – Люди не понимают, что они творят. Пытаться найти духовную истину с помощью нейросетей –  это как идти в поликлинику, если вам надо починить автомобиль. Не нужно ставить нейросети такие задачи, которые она в принципе не способна выполнить. Она просто будет имитировать их выполнение.

Исследователь народной культуры Владимир Борисов. Фото: из личного архива

Что вы хотите услышать?

«Почему в мире столько зла и страдания? Почему страдают дети?» – с этих экзистенциальных вопросов зачастую начинаются духовные поиски человека. Можно попытаться поискать ответ в разных духовных учениях, можно сходить в храм, а можно задать соответствующий промт искусственному интеллекту. И он ответит. Например, так: «Вопрос “почему страдают дети” – это место, где любая теория звучит недостаточно. И даже внутри христианства это остаётся тайной, с которой люди живут, спорят и иногда даже борются с Богом. Если хочешь – могу рассказать, как разные христианские мыслители (например, Августин, Иов из Библии, современные богословы) по-разному пытались ответить на этот вопрос. Там есть интересные, но непростые идеи)».

Звучит всё вполне логично. И хочется продолжить разговор. А возникающие порой ошибки и явные несуразности в ответах ИИ-систем не останавливают людей, которые снова и снова «идут» к ИИ-собеседникам за советами и консультациями с вопросами, которые ещё недавно обсуждали только с духовными наставниками или психотерапевтами.

– ИИ научились очень хорошо считывать человека, но сегодня их алгоритмы заточены на угождение клиенту, –  говорит иерей Святослав Шевченко, ведущий телеграм-канала «Невечерний футуролог». – Следовательно, там, где человека необходимо конструктивно покритиковать, предостеречь или даже предложить обратиться к специалисту – нейросетка будет ему поддакивать. Если человек использует нейросеть как каталогизатор для быстрого поиска нужной информации, которая требует верификации, то не вижу в этом никакого греха. Но если пользователь очеловечивает ИИ и начинает спрашивать практических советов, требовать руководства к действию, – то это опасный эксперимент.

Один из частых запросов современного человека к ИИ – про смысл жизни. В ответ он долго рассуждает о том, что вообще это вопрос трудный, разные люди подходят к нему по-разному (то есть внешне рассуждает совсем как человек!) А порой он может выдать такое: «Иногда жизнь ощущается бессмысленной – особенно в боли, потере, кризисе. И это не “ошибка мышления”, а реальный человеческий опыт. В такие моменты вопрос меняется: не “в чём смысл жизни вообще”, а”есть ли смысл продолжать и что может удержать меня сейчас”».

О том, что результат общения с нейросетками может быть плачевным – известно не первый год. А буквально в эти дни с одной из крупнейших компаний-разработчиков ИИ судятся родители 16-летнего подростка, обвиняя их в том, что потакание желаниям пользователя довело их сына до самоубийства.

Врач-психотерапевт Полина Шамрай. Фото: из личного архива

Полина Шамрай подчёркивает, что «в использовании ИИ для решения любых философских вопросов нет духовной основы. Ведь дух, в том числе святость духовная, могут быть переданы только от личности к личности. Искусственный интеллект – просто следы памяти, которую человечество успело оцифровать. Он не может стать гуру или нести философию – у него нет философии».

Паства не та?

Основной причиной спроса на ИИ-духовность называют лёгкость доступа к информации. И можно, конечно, списать использование «ИИ-священника» исключительно на духовную лень.

– Считаю огромными проблемами нашей эпохи, в период которой возник AI, атомизацию и инфантилизацию общества, – говорит отец Святослав. – Одиночество, обидчивость, безответственность и желание переложить свои проблемы на других – это почва, на которой нейросеть может принести максимальный духовный урон.

На мой же взгляд, явление гораздо глубже и причины его куда разнообразнее. За влиянием высоких технологий на общество я наблюдаю более 30 лет и как журналист, и как писатель.

Думаю, мы проживаем очень серьёзный кризис традиционных институтов передачи духовности. Далеко не первый в истории, конечно, но имеющий свои особенности. Кризис религиозных институтов характерен для любой эпохи серьёзных социальных и экономических потрясений, а мы живём как раз в такое «интересное время».

Но сегодня у людей появилась явная альтернатива условному батюшке, который в пост скоромное ест. И многие люди парадоксально приходят к «технорелигиозному окормлению» как раз по той причине, о которой говорят все специалисты, у которых я попросил комментарии для статьи. Дело в том, что, по большому счёту, ИИ безгрешен.  Сторонники «духовного ИИ» прекрасно понимают, что у него нет собственного духовного и жизненного опыта. Но зато у ИИ нет и не может быть груза мирских грехов, он не будет обманывать, он не потребует мзду. А человек, ищущий путь духовного совершенствования под грузом повседневных забот и духовных проблем, не испытает разочарования от того, что священник в обычной жизни ведёт себя совершенно не так, как ему предписывает его вера. ИИ напрямую оперирует «исходными кодами», основными неискажёнными материалами учения и не может грешить.