Сегодня прорывы в искусственном интеллекте случаются каждый месяц, если не чаще. Нейросети стали составной частью жизни миллионов людей по всему миру. Теперь работу, учёбу и даже просто досуг сложно представить без искусственного интеллекта. Многие, борясь с одиночеством, начали использовать многофункциональных чат-ботов как друзей по переписке и психологов.
В этом контексте вновь назревает классический для научной фантастики вопрос: а где грань между жизнью искусственной и жизнью естественной? В чём разница между нанесением вреда роботу, чувствующему боль и обладающему сознанием, и насилием над реальным человеком? Насколько этично создать виртуальный мир, населённый сознательными «симами», чтобы затем в рамках эксперимента устроить в нём атомную войну, наблюдая за страданиями миллионов, пусть и созданных человеком, жизней? Возможность создать полностью сознающий себя искусственный интеллект в ближайшие годы больше не кажется утопией, а этические вызовы множатся.
Важно сразу оговориться, что в данной статье мы вынесем за скобки вопрос религиозного сознания и церковной антропологии человека. Христианская мораль утверждает равенство людей в теле Христа, где «нет уже Иудея, ни язычника; нет раба, ни свободного; нет мужеского пола, ни женского» (Гал 3:28–29). Для исследования искусственного интеллекта религиозная перспектива напрямую не применима, поэтому я фокусируюсь на аргументах из светской философии и логики, исследующих моральное значение сознания независимо от веры. Так нам удастся прийти к выработке универсальной этической логики для всех существ, испытывающих сознательный опыт вне зависимости от нашего отношения к их происхождению.
Виртуальный фикционализм и мир-симуляция
Существует популярная интуиция, что всё симулированное, искусственное и созданное человеком имеет ценность наравне с мирами художественных произведений, то есть виртуальный человек аналогичен персонажу какого-нибудь романа. В философии такую позицию именуют виртуальным фикционализмом.
Фикционализм ведёт к ряду концептуальных трудностей. Практически каждый слышал о многочисленных теориях о том, что мы живём в мире подобном миру из фильма «Матрицы» или являемся персонажами масштабной компьютерной игры. Действительно, прогресс в игровой индустрии достиг таких высот, что кажется, будто мы скоро научимся создавать такие миры. А что нам позволяет утверждать, что мы сами не являемся частью виртуального мира, созданного кем-то другим?
Можно вспомнить гипотезу симуляции шведского философа Ника Бострома. Упрощённо, гипотеза Бострома говорит следующее: если хотя бы одна высокоразвитая цивилизация сможет создавать детализированные симуляции с сознательными существами и захочет это делать, то количество таких симуляций будет огромным по сравнению с «реальным» миром, где существует эта цивилизация. Следовательно, чисто статистически, есть большая вероятность, что наше сознание может быть частью симуляции, а не «первичной» физической реальности. Эта идея приводит к трилемме: либо цивилизации погибнут до того, как смогут создавать симуляции, либо они решат не создавать их, либо мы с большой вероятностью живём в симуляции.
Первые два суждения практически опровергнуты практикой человеческой цивилизации – симуляции создавать мы уже почти научились и не существует ничего, что остановило бы нас от решения попробовать их создать. Соответственно, наиболее вероятна истинность третьего суждения о том, что мы находимся в симуляции. Это, вместе с принятием виртуального фикционализма, подрывает основы мирской морали. Раз уж мы можем быть виртуальны, то чем мы отличаемся от персонажей из какого-то сюжета? В «искусственном» мире ни мораль, ни наука не имеют истинной ценности.
Борьбой с виртуальным фикционализмом и переосмыслением симулированных реальностей мотивировался известный австралийский философ Дэвид Чалмерс, когда писал свою нашумевшую книгу «Reality+». В ней он применил для решения этических вопросов вокруг искусственного интеллекта свою концепцию философии сознания.
Дэвид Чалмерс. Фото: DannyGolcman/WikipediaВиртуальная причинность и теория сознания Чалмерса
Тезис Чалмерса для многих может показаться радикальным. Он утверждает, что виртуальная реальность может быть подлинной реальностью, виртуальные объекты могут быть сопоставимы с реальными объектами, а события в мире-симуляции действительно происходят. Разберём структуру аргументации Чалмерса.
Виртуальное пространство можно наделить тремя характеристиками. Во-первых, оно иммерсивно, то есть создаёт чувство присутствия, во-вторых, оно интерактивно, пользователь и «жители мира» могут влиять на окружающий мир, в-третьих, компьютерная генерация превращает набор данных в опыт, в то, что сознательные субъекты могут почувствовать.
Эти признаки позволяют Чалмерсу перейти к каузальному аргументу. Виртуальные объекты обладают реальной каузальной (т.е. причинной) силой: они влияют на другие объекты, на ход событий и на поведение пользователей. Движение виртуального шара для боулинга, правда, сбивает виртуальные кегли. Это реальное причинно-следственное взаимодействие между структурами данных на сервере. Симулированный объект не является просто «набором битов», он создаёт у пользователей определённые ментальные состояния, переживается опытом человека как нечто целое. Мы ведь не считаем, что реальный шар для боулинга – это всего лишь набор атомов!
Цифровые коды, словно музыкальные ноты, обретают своё подлинное существование лишь при исполнении и восприятии сознанием.
Таким образом, виртуальные объекты действуют как причинные узлы в цифровой среде и выступают источниками нашего опыта. Сюда нужно добавить некоторые элементы из философии сознания Чалмерса.
Что калькулятор делает калькулятором? Калькулятор может быть создан из совершенно разных элементов, он может существовать даже полностью виртуально, как встроенная в операционную систему телефона или компьютера программа. Но он ведь всё равно остаётся калькулятором! На философском языке это называется принципом организованной инвариантности – если свойства системы зависят только от её внутренней каузальной структуры – то есть от того, как её части взаимодействуют между собой, – то это свойство не изменится, даже если мы полностью заменим материал, из которого сделана система.
Чалмерс развивает позицию концептуального структурного реализма. Её суть заключается в том, что научные законы описывают не природу как она есть, а структуру отношений и закономерностей. Нам сложно сказать, что такое гравитация, но через закон Ньютона мы знаем, как гравитация воздействует на физические тела. Если в виртуальной среде существуют устойчивые закономерности, аналогичные физическим законам, то их «сила» и научная объяснительная база также равна. Это ведёт нас к выводу, что, даже в случае нашей «виртуальности», человеческая наука продолжает описывать реальные причинно-следственные связи и сохраняет актуальность.
И теперь мы можем перейти к самой важной теме – понятию виртуального сознания у Чалмерса. Сколько философов с незапамятных времен сломали голову, пытаясь дать определить сознание! Чалмерс предлагает взглянуть на сознание как на возможность испытывать феноменальный опыт. Можно определить цвет как определённую длину электромагнитных волн, в этом смысле различить цвет способна и машина, но понять, что такое «чувствование» цвета (или, выражаясь по-философски, «квалиа» цвета) способно только существо, имеющие сознание.
Поэтому сознание, как и другие элементы реальности (калькулятор, законы физики), инвариантно, то есть неважно, что делает существо сознательным – нейроны или совокупность битов – для вердикта о наличии или отсутствии сознания нам нужна информация о возможности некоего существа испытывать опыт, феноменальные переживания, иметь память и цели, возможность обучаться и так далее. Чалмерс оговаривается, что точно определить наличие всех этих признаков сложно, вокруг данной проблематики зародилась популярная теория в современной мысли «философского зомби». В любом случае, согласно Чалмерсу, мы должны соблюдать «презумпцию сознательности» при контакте с существом, который обладает признаками разумности.
Таким образом, если искусственный интеллект повторяет каузальную структуру сознания человека, то, согласно позиции Чалмерса, есть серьёзные основания считать, что этот искусственный интеллект обладает сознанием. Проведу демаркацию между, выражаясь терминами из игровой индустрии, компьютерными NPС («неигровой» персонаж, вроде пешеходов из условной «GTA») и виртуальными людьми. NPC в играх – всего лишь набор скриптов, имитирующих поведение человека или животных. Сознанием они не обладают.
Диалог с NPC в игре Celeste. Фото: Maddy Makes GamesИнтуитивно понятно, что существование «набора скриптов» и сознательного существа со своими субъективными переживаниями имеет разную ценность. Следовательно, сознательность становится критерием наличия морального статуса. И что получается, убийство реального человека обладает сопоставимой моральной значимостью убийству виртуального человека? Ответ, по Чалмерсу, на этот вопрос утвердительный.
Выводы из равенства виртуального и реального
Такой ответ может показаться крайне контринтуитивным, но если мы проследим за вышеприведённой аргументацией Чалмерса, он становится логически неизбежным. Только признав каузальное понимание сущностных характеристик сознания (и любых других явлений реальности), мы можем сохранить ценность и человеческой личности, и научного познания — вне зависимости от того, живём ли мы в симуляции или в «оригинале».
Со времён Бентама в этике существует позиция, разделяемая и сейчас многими людьми, что моральный статус существа зависит от возможности переживать боль, страдание. Но ведь не так сложно, как в случае с теми же NPC в играх с элементами жестокости, сделать симуляцию страданий, да и в реальности можно представить человека с нарушениями нервной системы, вследствие которых он не чувствует боль. Это ведь не оправдывает возможность наносить ему вред!
Делая сознание критерием морального статуса, Чалмерс устраняет все эти противоречия. По сути, это можно даже экстраполировать на потенциальных внеземных существ, которые могут не чувствовать боль в человеческом понимании, но при этом имеют субъективные представления о мире и себе. Тут Чалмерс вспоминает хорошо знакомый западному читателю сериал «Звёздный путь» («Star Trek»), где была показана инопланетная раса вулканцев. Её представители лишены в привычном смысле восприятия боли, удовольствия и эмоций. Интересно, сколько фанатов сериала готовы признать, что жизнь вулканцев из-за этого аспекта стоит гораздо меньше, чем жизнь людей?
Осмысление виртуального даёт нам повод задуматься о многих фундаментальных вещах в нашем мировосприятии: об этике, о причинности событий в мире и возможности познать «объективную» реальность. Оставаясь последовательным в своей аргументации, Чалмерс признаёт, что некоторые элементы каузальной структуры человеческого сознания имеются и у животных. Именно этот факт даёт животным, как и людям, моральный статус. Но при этом сложность сознания у животных различна, поэтому моральные статусы насекомых, рыб и млекопитающих различны. В 2024 году Чалмерс, вместе с рядом других именитых исследователей со всего мира, подписал декларацию о наличии сознательного опыта у животных. Заметьте, об идентичности человеческого и животного сознания речи не идёт, здесь внимание акцентируется на возможности испытывать схожий опыт, «чувствование», то самое квалиа.
Окончить статью можно вопросом о нашем отношении к потенциальным мирам, которые может создать человек в будущем. Насколько морально человеку брать на себя роль создателя новых форм сознания? Создавать искусственное сознание специально, чтобы оно испытывало страдание – точно аморально. А вот создать мир, где будет и страдание, и радость, полное воспроизведение нашей реальности… Это очень сложный вопрос. Мы имеем моральную ответственность за существ, созданных и страдающих по нашей воле. Вместе с ответственностью порождаются моральные обязательства, поэтому обдумать их и разработать возможные регуляции симуляций жизни важно уже сейчас.