Живем ли мы в спекуляции Ника Бострома

Живем ли мы в спекуляции Ника Бострома?

Данила Медведев

danila.medvedev@mail.ru

Санкт-Петербург

2003

 

Быстрое развитие компьютерных технологий может сделать возможным создание реалистичных компьютерных симуляций, населенных разумными людьми. «Аргумент о симуляции», предложенный Ником Бостромом в статье «Живем ли мы в компьютерной симуляции», утверждает, что если подобные симуляции будут созданы нами или нашими потомками, то мы практически наверняка живем в компьютерной симуляции. В настоящей работе рассматриваются серьезные математические и логические ошибки, допущенные в аргументе о симуляции. По результатам проведенного анализа можно заключить, что аргумент о симуляции является ошибочным, а вопрос о природе нашего мира остается предметом индивидуальных убеждений.

 

Ключевые слова: реальность, симуляция, постчеловеческие цивилизации, исторические симуляции, аргумент о симуляции, сознание, человек.

I.         Введение

Мысль о том, что наш мир — это на самом деле компьютерная симуляция, сравнительно нова. Идеи о возможности полной симуляции реальности получили распространение лишь немногим более двадцати лет назад. В 1989 году Джарон Ланье (JaronLanier) впервые использовал термин «виртуальная реальность», но лишь в 1990-е годы идеи о симуляции целого мира стали относительно популярными. Компьютерные игры, в особенности трехмерные, такие как Doom, Quake и множество более новых игр, продемонстрировали как целый мир (или, по крайней мере, значительная его часть) может быть воссоздан на экране компьютера. Несколько фантастических фильмов, снятых в конце 1990-х и в начале 21-го века, также использовали эти идеи, попытавшись найти ответы на некоторые философские вопросы, которые ставят перед нами симуляции. Но более важно то, что благодаря кино эти идеи впервые были донесены до широкой публики.* «Раскрой глаза» (Abrelosojos, 1997) — Главный герой этого фильма заключил контракт с крионической компанией. После смерти его тело было заморожено в жидком азоте, а сознание заключено в компьютерную симуляцию. В этом фильме личности всех остальных людей в симуляции воссозданы лишь с такой точностью, которая необходима для реалистичного взаимодействия с главным героем. Например, у одного из второстепенных персонажей, психиатра, есть две дочери, но он не знает их имен.

• «Темный город» (DarkCity, 1998) — Этот фильм можно также отнести к жанру мистического триллера, поэтому научной стороне описания уделяется меньше внимания. Фильм рисует мистическую картину и не раскрывает механизм симуляции. Тем не менее, он стал важной вехой в развитии идеи симуляции в кинематографе, которая была позднее разработана намного более детально в фильмах «Матрица» и «Тринадцатый этаж».
• «Матрица» (TheMatrix, 1999) — В этом фильме большая часть человечества подключена к гигантской компьютерной симуляции (Матрице) с момента рождения. Но люди не знают об этом до тех пор, пока кто-то извне не сообщает им правду. Машины, контролирующие симуляцию, способны в реальном времени вносить практически любые изменения в код симуляции. Люди, живущие в реальном мире, могут входить в симуляцию, создавая в Матрице свое alterego и перенося в него свое сознание. Матрица стала первым фильмом о симуляции, добившимся широкой известности. Многие впервые познакомились с идеями симуляции реальности, благодаря этому фильму.
• «Тринадцатый этаж» (TheThirteenthFloor, 1999) — Этот фильм ввел идеи вложенных симуляций и возможности перемещаться с одного уровня на другой. Компьютерная компания в конце 20-го века разработала симуляцию небольшого американского города начала 20-го века. Позднее выяснилось, что реальный мир на самом деле тоже является симуляцией, созданной в другой реальности, напоминающей будущее нашего мира (21-й или 22-й век). Герои фильма могут входить в симуляцию (или выходить из нее, поднимаясь на один уровень выше) только помещая сознание в тело уже существующего человека.
• «Ванильное небо» (VanillaSky, 2001) — Это американский ремейк фильма «Раскрой глаза». Сюжет практически не был изменен, и основные научные и философские предпосылки остались такими же.

В фильмах «Тринадцатый этаж», «Матрица» и «Темный город» присутствует идея ограниченности симулируемого мира и возможности оказаться в буквальном смысле на краю света (похожее происходит в фильме «Шоу Трумена» (1998)) и осознать конечность своего мира.

Эти идеи не только представлены в популярных фильмах и книгах, но и рассматриваются профессиональными философами. К примеру, философские идеи, стоящие за фильмом «Матрица», разрабатываются более детально в разделе «Философия Матрицы» сайта фильма. Но наиболее полное развитие эти идеи получили в противоречивой теории, известной как «Аргумент о симуляции» (SimulationArgument).

Главная идея аргумента о симуляции, впервые высказанная Ником Бостромом состоит в том, что «если мы не считаем, что мы сейчас живем в компьютерной симуляции, то у нас нет оснований верить, что наши потомки станут запускать множество исторических симуляций».

Эта идея получила свое дальнейшее развитие в статьях Робина Хансона (RobinHanson) и Барри Дайнтона (BarryDainton). В своей работе «Как жить в симуляции» Хансон дает несколько советов относительно оптимального поведения для людей, считающих, что они, возможно, живут в симуляции. К сожалению, его идеи основаны на неправильных предпосылках (как будет показано в данной работе), а его предложения часто иррациональны и малоэффективны. К примеру, Хансон делает предположение о том, что «возможно, симуляции обычно завершаются после того, как достаточное число людей в них становится уверенным в том, что они живут в симуляции», а значит, «вам следует предотвратить широкое распространение подобных идей». Подобное высказывание — это не более чем пустые догадки с его стороны, демонстрирующие невнимание к внутренней непротиворечивости и рациональности гипотез. Вполне возможен противоположный исход: когда достаточное число людей осознает, что они живут в симуляции, они будут перенесены в реальный мир, а симуляция остановлена. Далее Хансон делает предположение, что поиск людей, которые на самом деле являются посетителями симуляции, и близкое общение с ними могут иметь благоприятный эффект. При этом он полностью игнорирует обратную возможность, например то, что наш мир может оказаться GTA-подобной игрой. Такие предположения не имеют никакой ценности кроме развлекательной.

В статье «Потеря невинности: симуляционные сценарии: перспективы и следствия» Барри Дайнтон вводит несколько новых идей, таких как классификация форм виртуального существования (modesofvirtuallife). Затем он формулирует аргумент о симуляции, используя рассуждения, схожие с теми, что предложены Бостромом, делая при этом такие же ошибки. В конце статьи он рассматривает несколько возможных этических возражений против создания симуляций:# Возражение меньшей ценности (TheObjectionfromLesserValue) — симуляции не должны создаваться, поскольку жизнь в симуляции хуже жизни в реальности.

1. Возражение против обмана (TheDeceptionObjection) — симуляции не должны создаваться, поскольку они неизбежно связаны с массовым обманом.
2. Эгоистическое соображение (TheSelf-InterestConsideration) — симуляции должны быть запрещены цивилизацией, чтобы гарантировать, что она сама не находится в симуляции.

Первые два аргумента достаточно разумны и стоят внимания, но последний явно неправилен и страдает от тех же логических ошибок (проблема «логического круга») и проблем с причинностью.

Аргумент о симуляции тесно связан с основным вопросом философии. Особенность аргумента о симуляции заключается в том, что одни его аспекты имеют материалистическую природу, а другие соответствуют объективному идеализму. В частности идеалистическая концепция "первого толчка" довольно точно отражает природу запуска симуляции ее создателями, а концепции "идей" или "идеальных чисел" точно соответствуют природе симуляции как компьютерной программы. Материалистическое убеждение о познаваемости мира и адекватности отражения действительности в человеческом сознании оказывается ложным. Симуляция — "это мир, который был выстроен перед… глазами [человека], чтобы скрыть от [него] правду".

В целом можно сказать, что философская природа симуляции, будучи наблюдаемой ее обитателями, скорее является идеалистической. В то же время, с позиций ее создателей, природа симуляции может быть материалистична. Сознание (или разум) симулированного человека — это свойство высокоорганизованной материи, компьютерных компонент, организованных посредством сложных программ. Сама базовая реальность (а следовательно и метавселенная) может иметь материалистичную природу.

К сожалению, все перечисленные выше работы, посвященные аргументу о симуляции, содержат ряд стандартных ошибок, таких как «логический круг», авто-референция, игнорирование неслучайной позиции наблюдателей, нарушение причинности и пренебрежение контролем симуляции со стороны создателей. Существующая критика аргумента о симуляции, как правило, игнорирует наиболее серьезные ошибки и сосредотачивается на частностях. Уровень логической аргументации обычно невысок. Мне не удалось обнаружить ни одной статьи, в которой был бы подробно разобран аргумент о симуляции.

В этой работе я представил первый детальный анализ «аргумента о симуляции», продемонстрировал обнаруженные логические ошибки в аргументации и предложил некоторые альтернативы идеям симуляции. Кроме того, я рассмотрел проблему этических принципов постчеловеческих цивилизаций и предложил несколько гипотез, не зависящих от особенностей нашей цивилизации.

По результатам проведенного анализа можно заключить, что аргумент о симуляции является ошибочным. Избежать логических ошибок, сделанных Бостромом, в аргументе о симуляции не представляется возможным. Следует признать, что вопрос о реальности нашего мира все еще остается предметом индивидуальных убеждений. В то же время, реальность нашего мира не накладывает никаких ограничений на перспективы технического прогресса, возможность достижения постчеловеческого этапа развития и создания исторических симуляций.

В первой части работы дан краткий обзор исходной статьи Бострома и перечислены неявно сделанные им допущения.

Во второй части подробно рассмотрена основная формула расчета вероятности проживания в симуляции и продемонстрированы ошибки, допущенные Бостромом в расчетах.

Третья часть посвящена разбору логических ошибок в аргументе о симуляции. В ней также показано несоответствие доказательства Бострома принципам научного подхода.

В четвертой части даны аргументы против симуляции, не связанные с ошибками оригинального доказательства Бострома.

Последняя часть содержит комментарии к интерпретации аргумента о симуляции, сделанные в исходной статье. Приводится аргумент о полном контроле симуляций со стороны создателей.

Определения

В данной работе используются некоторые специальные термины, относящиеся к проблеме симуляции реальных миров. Термины, предложенные другими авторами, используются в их исходных значениях.

Постчеловеческая цивилизация — цивилизация потомков человека, изменившихся до такой степени, что они уже не могут считаться людьми. Постчеловеческая цивилизация, вероятно будет обладать высокоразвитыми вычислительными технологиями, нанотехнологиями, технологиями искусственного интеллекта и многими другими.

Симуляция — компьютерная программа, моделирующая в какой-либо форме разум и/или сознание одного или нескольких людей, а также физическое окружение, с которым они могут взаимодействовать. Реалистичные симуляции моделируют окружение, схожее с реальным миром.

Историческая симуляция — симуляция, в которой смоделировано человеческое общество прошлого.

Базовая цивилизация — цивилизация, существующая в реальном мире, а не в симуляции.

Симуляция первого уровня — симуляция, запущенная базовой цивилизацией.

Вышестоящая цивилизация (по отношению к какой-либо симуляции) — цивилизация, запустившая данную симуляцию.

Метавселенная — гипотетическое множество всех существующих вселенных. Это множество включает все базовые реальности, а также все симуляции, запущенные внутри вселенных из данного множества (как реальных, так и симулированных).

II.      Обзорстатьи «Are we living in a computer simulation?»

В первой части статьи (Предположение о независимости от носителя) Бостром рассматривает предпосылки для идеи симуляции. Вначале он делает предположение о независимости от носителя, означающее, что «сознание может существовать не только в органических в своей основе биологических нейронных сетях внутри черепной коробки», но «психические и интеллектуальные состояния могут быть реализованы на множестве различных физических носителей». Хотя Бостром лишь кратко затрагивает этот вопрос и не дает ссылок на обсуждение этой возможности в существующей литературе, подобная идея не противоречит современным знаниям в биологии и теории вычислительных систем. Роджер Пенроуз и несколько других авторов являются противниками этой теории, предполагая, что сознание имеет в своей основе квантовую природу и не может быть воспроизведено на носителях иных, чем человеческий мозг, но эти идеи не получили широкого распространения в научной среде.

В следующей части (Технологические ограничения вычислительной мощности) Бостром подробно анализирует вычислительные мощности, необходимые для симуляции человеческого сознания или целых цивилизаций. Наиболее важные описанные им показатели перечислены ниже:* Вычислительная сложность человеческого мозга: ~1016—1017 операций в секунду.

• Максимальный объем чувственной информации: ~108 бит в секунду.
• Объем вычислений, необходимый для реалистичной симуляции всей истории человечества: ~1033—1036 операций.
• Вычислительная мощность компьютеров на базе нанотехнологий: 1021 операций в секунду на куб. см.
• Теоретический предел вычислительной мощности на 1 кг вещества: 5*1050 операций в секунду.

Приведенные оценки представляются достаточно обоснованными.

При этом стоит отметить, что проведенный Бостромом анализ не имеет значения для аргумента о симуляции. Как будет показано ниже, значение имеют только возможности базовой цивилизации. Если мы допускаем возможность нашего существования в компьютерной симуляции (то есть, что мы не являемся базовой цивилизацией), то лишь потенциал вышестоящей цивилизации играет существенную роль, но мы не можем определить его.

В главном разделе (Суть аргумента о симуляции) Бостром предлагает формулу для расчета вероятности произвольным образом выбранному человеку оказаться в симуляции. Бостром приходит к выводу, что по крайней мере одно из приведенных ниже утверждений верно:

• Доля цивилизаций, достигающих в своем развитии постчеловеческого этапа, близка к нулю.
• Доля постчеловеческих цивилизаций, заинтересованных в создании исторических симуляций, близка к нулю.
• Большинство людей живет в одной из симуляций.

Этот раздел содержит большое число серьезных математических ошибок. Кроме того, Бостром делает несколько некорректных допущений относительно используемых переменных. Подробный анализ этих ошибок будет дан в разделе 3 настоящей работы.

В следующем разделе (Слабый принцип безразличия) Бостром объясняет логику своих расчетов и делает попытку показать, что выбор произвольного человека в нашем мире может считаться случайным для целей аргумента о симуляции. Именно в этом разделе он делает наиболее серьезные ошибки, включая использование ложной аналогии в своем примере с ДНК. В разделе 4 настоящей работы описаны логические проблемы в аргументе о симуляции, раскрыто использование «доказательства по замкнутому кругу» и другие ошибки. Кроме того, в разделе 5 приведены несколько возражений против возможности симуляции миров, схожих с нашим.

Наконец, в последней части (Интерпретация) Бостром приводит несколько объяснений формул, полученных в главном разделе. Основные ошибки, сделанные им здесь, сводятся к игнорированию фундаментального отличия симуляции — того, что она в первую очередь управляется симуляторами, и лишь после этого различными законами и правилами, заложенными при создании симуляции. Раздел 6 содержит описание ошибок интерпретации.

Необходимые допущения

В рассматриваемой статье были описаны базовые идеи о независимости от носителя и вычислительных возможностях, но не было уделено внимания необходимым философским и мировоззренческим допущениям, важным для аргумента о симуляции. Ниже я попытался привести наиболее важные гипотезы, без которых невозможно обеспечить логическую состоятельность аргумента о симуляции.

1) Существует базовая реальность. Без этого, вся дискуссия о реальности и симуляциях теряет всякий смысл. Необходимо также отметить, что предположение о существовании реальности находится примерно на том же уровне, что и рассуждения о том, является ли наш мир реальным или лишь симуляцией.

2) Существует возможность запуска симуляции мира внутри реальности. В исходной работе эта гипотеза принимается без доказательства и даже не упоминается. Однако на данный момент у нас нет достаточного опыта создания симуляций, чтобы быть полностью уверенными в том, что симуляция, неотличимая от реальности, вообще может быть создана. Лучшие образцы симуляций сегодня — это компьютерные игры и фильмы, но даже самые совершенные из них лишь частично реалистичны. Бостром ссылается на работы Дрекслера и Курцвейла, но в них обсуждаются лишь технические аспекты симуляций реальности и игнорируются философские аспекты таких возможностей.

3) Не существует циклов симуляций, где какая-то последовательность вложенных симуляций заканчивается на изначальной реальности или ее части. Если бы циклы были возможны, то не существовало бы реальных критериев для признания мира симуляцией. Более того, в этом случае наши представления о реальности пошатнулись бы настолько, что аргумент о симуляции потерял бы смысл.

4) Сложность симуляции ниже сложности мира, в котором она запущена. Это следует из теории информации и математических принципов кодирования. Важность этого допущения в том, что оно ведет к объективным различиям между симуляциями разного уровня вложенности и между симуляциями и реальностью.

5) Законы логики и математики абсолютны. Если это не так, то приходится допустить, что закон исключенного третьего и другие логические законы не верны в нашей вселенной и аргумент о симуляции (как и любой другой аргумент) в принципе не имеет смысла. Надо отметить, что существование симуляции, где логика не действует, запущенной из вселенной с действующей логикой, вполне возможно.

6) Число симуляций конечно. Аргумент о симуляции зависит от расчета вероятностей и средних показателей для всех вселенных. Если симуляций бесконечно много (или вселенных бесконечно много), то средние значения показателей теряют смысл.

Кроме того, использование аргумента о симуляции требует сделать несколько менее общих предположений о метавселенной.

1. В базовой реальности существует хотя бы одна человеческая цивилизация.
2. Человеческая цивилизация имеет ненулевую вероятность превращения в постчеловеческую цивилизацию. (Аргумент о симуляции не раскрывает каких-либо различий между цивилизациями, могущими стать постчеловеческими и всеми остальными)
3. Постчеловеческая цивилизация имеет ненулевую вероятность запустить хотя бы одну симуляцию.

III.    Ошибки в расчетах в оригинальной работе

В дополнение к ошибкам, допущенным в рассуждениях, Бостром использует формулы для расчета вероятности оказаться в симуляции, которые содержат различные ошибки и неточности. Некоторые из этих ошибок непринципиальны и мало влияют на результат, тогда как другие намного более серьезны.

Бесконечное число вселенных

Одним из незначительных недостатков формул является неучтенная возможность существования бесконечного числа цивилизаций. Франк Типлер показал, что вблизи точки Омега (гипотетический момент во времени перед коллапсом Вселенной) возможно достижение бесконечной вычислительной мощности. Другие ученые распространили подобные аргументы на случай тепловой смерти Вселенной (вторая альтернатива — неограниченное расширение). Если неограниченная вычислительная мощность возможна, использование всех переменных из основной формулы (f_P,   и  ) является некорректным. Это не опровергает аргумент о симуляции, поскольку формула может быть легко расширена на случай бесконечного числа симуляций, но этот недочет может повлиять на некоторые следствия. Более серьезным возражением является возможность реального существования множественных вселенных (не симуляций) или множества человеческих цивилизаций в базовой физической вселенной. Это делает теоретически возможным широкий спектр исходов, таких как следующие:

• Постчеловеческий этап развития наступит только после того, как большинство человеческих цивилизаций на разных планетах встретятся вместе (см. далее рассуждения о том, что постчеловеческий этап может далеко отстоять от сегодняшнего дня, и следствиях из этого). Это увеличивает количество реальных людей по сравнению со случаем единственной реальной цивилизации и такого же количества симуляций.
• В зависимости от природы множественных вселенных, разница между цивилизациями, симулируемыми в различных реальных вселенных, может быть незначительной (см. далее рассуждения об идентичных личностях в симуляциях), в то время как различия между реальными цивилизациями в различных вселенных будут значительными. Если считать несколько идентичных симуляций лишь копиями, то число симулированных личностей значительно снизится. Реальные же люди в разных вселенных останутся различными.

Другой важный аспект использования средних величин, игнорируемый Бостромом, заключается в том, что разные цивилизации находятся в разных условиях. Если дополнительные предположения, перечисленные в предыдущем разделе, верны (особенно предположение о снижающейся сложности симулированных вселенных), то «глубоко симулированные» цивилизации (симулированные внутри симуляции, симулированной внутри симуляции и т. д.) имеют меньше шансов достичь постчеловеческого уровня (а значит и запустить собственные симуляции). В таком случае использование средней величины f_P обманчиво, так как возможно существование наблюдаемых признаков «глубины симуляции». Возможно, что наша способность думать о создании симуляций — это показатель того, что мы находимся сравнительно близко к базовой реальности (насколько близко, и в реальности или нет, разумеется, точно сказать нельзя). Это важный (хотя и не единственный) аргумент против принципа безразличия.

Число личностей

Особое внимание следует уделить расчетам числа личностей с человеческим опытом (). Возможно, что несмотря на, казалось бы, большое количество симулируемых людей, реальное число уникальных симулируемых личностей намного меньше. Также существует возможность того, что значительная часть симулируемых личностей принципиально отличается от нас отсутствием самосознания.

Идентичные индивиды

В своей работе Бостром не описывает причины для создания исторических симуляций, считая желание их создавать само собой разумеющимся. Отсутствие конкретных причин для запуска исторических симуляций означает, что не известно никаких требований, предъявляемых к симуляциям их создателями. Таким образом, нельзя исключить возможность того, что постчеловеческая цивилизация, создавшая множество симуляций, будет использовать в них идентичных индивидов.

Возможность использования идентичных индивидов в различных симуляциях ставит множество вопросов. Это серьезная проблема, поскольку природа индивидуальности недостаточно хорошо изучена даже сама по себе. Можно привести убедительные аргументы как в пользу того, чтобы считать таких индивидов одной личностью, так и за то, чтобы считать их разными.

Такие люди могут обладать похожими, неотличимыми или даже полностью идентичными личностями. То же самое может быть сказано и относительно их опыта. Правила симуляций, определяющие накопление и распространение изменений во времени, могут быть разработаны для удобства людей, создавших симуляцию. Нет никаких причин для того, чтобы, например, в симуляции, посвященной средневековой Японии, люди в остальных частях света и в другие эпохи отличались от людей в других симуляциях.

Подобная возможность приводит к нескольким неочевидным последствиям для аргумента о симуляции. Неясно, должны ли такие люди считаться отдельными индивидами или всего лишь копиями одного индивида. В последнем случае общее число симулированных людей вполне может оказаться сравнимым с числом реальных людей в базовой реальности. Это, в свою очередь, означает, что f_sim вполне может принять большое значение, например, 0,5.

Люди без сознания

Другое обстоятельство, серьезно влияющее на справедливость аргумента о симуляции, это возможность симулирования людей без самосознания. Такое симулирование может быть осуществлено из этических соображений, так как симулирование реального мира (предположительно схожего с нашей человеческой историей) неизбежно влечет за собой боль и страдания для симулируемых людей. Есть основания полагать, что постчеловеческие цивилизации неизбежно проявляют глубокое уважение к сознающим существам в любой форме и вряд ли решат причинить им страдания, если этого можно избежать.

Люди без самосознания могут, тем не менее, быть разумными. Они могут также контролироваться центральной программой симуляции и вообще не обладать индивидуальностью. Бостром затрагивает такую возможность, отмечая, что «остальная часть человечества может состоять из зомби или “людей-теней” — людей, симулируемых на уровне, достаточном лишь для того, чтобы полностью симулируемые люди не заметили ничего подозрительного». Но он рассуждает об этом только применительно к «я-симуляциям», где лишь незначительное число людей полностью симулируется, а остальные представляют собой «людей-теней». Бостром далее заявляет, что эту возможность можно полностью игнорировать, поскольку число людей в исторических симуляциях неизбежно будет намного больше, так как каждая из них будет включать в себя миллиарды людей.

Бостром называет только одну возможную причину для создания «людей-теней» — то, что их симуляция может оказаться дешевле, чем симуляция реальных людей. Он полностью игнорирует этический аспект, который наверняка будет намного важнее для постчеловеческой цивилизации, чем вопросы ресурсов. Существует реальная возможность того, что симуляции с «людьми-тенями» окажутся полностью достаточными для всех практических целей и что постчеловеческие цивилизации не захотят полностью симулировать реальных сознающих людей. Главным критерием, определяющим, можно ли запускать симуляцию, будет способность симулируемых существ испытывать субъективные переживания, включая способность испытывать боль и страдания. Если это так, то тот факт, что мы способны сознавать себя, доказывает, что мы, скорее всего, не живем в симуляции.

Ошибки в формуле

Прежде всего, следует отметить, что описанные ниже исправления не помогают избежать «логического круга» и других логических ошибок. По этой причине, будут приведены только наиболее важные комментарии к формулам, использованным в исходной статье.

Бостром дает следующую формулу для расчета доли людей, живущих в симуляциях:

(1)

Здесь f_P — это доля человеческих цивилизаций, достигающих постчеловеческого этапа развития,  — это среднее число исторических симуляций, запускаемых постчеловеческой цивилизацией, а  — это среднее число людей, живущих в цивилизации до достижения ею постчеловеческого этапа.

Бостром утверждает, что f_sim — это «доля всех наблюдателей с человеческим опытом, живущих в симуляциях», но он явно заблуждается. Данная формула, в том виде, в котором она записана, не несет практически никакого смысла. Числитель формулы равен среднему числу людей, симулированных одной цивилизацией, а не общему числу симулированных людей (всеми цивилизациями в метавселенной). Наиболее близкий к величине знаменателя параметр — это среднее число людей, живущих в цивилизации и симуляциях следующего уровня, запущенных из этой цивилизации. Очевидно, что значение f_P будет в большинстве случаев очень близко к 1, поскольку

 и

C_PH — число постчеловеческих цивилизаций, C_sim — число симуляций

Таким образом, значение f_sim, рассчитанное по формуле (1), будет практически всегда очень близко к 0,5, что явно противоречит выводам Бострома.

Первое исправление, которое необходимо сделать, это ввести в формулу общее число цивилизаций C:

 

(2)

Следующая проблема заключается в том, что  в знаменателе формулы (1) не может быть правильным значением числа людей, живших в базовой цивилизации до достижения ею постчеловеческого этапа развития. Эта переменная имеет вполне конкретное значение, не имеющее абсолютно ничего общего со средним значением этого показателя для всех цивилизаций метавселенной. Поэтому следующее исправление — это замена  переменной H_base, представляющей собой число людей, живших в базовой цивилизации до достижения ею постчеловеческого этапа развития:

 

(3)

Еще одна ошибка (похожая на предыдущую) состоит в том, что число симуляций, запущенных в базовой цивилизации, вероятно, тоже сильно отличается от средней величины. Обозначим это число N_base. Сделав допущение о том, что число людей в симуляциях первого уровня близко к среднему значению для всех симуляций, мы приходим к следующему варианту формулы:

 

(4)

Такая формула является более правильной, чем вариант, который был предложен Бостромом. Тем не менее, даже все эти изменения не снимают некоторой фундаментальной проблемы. Дело в том, что f_P не имеет никакого смысла применительно к базовой цивилизации. Как будет показано ниже, развитие базовой цивилизации подчиняется совершенно иным законам, чем развитие симулируемых цивилизаций. Поскольку достижение постчеловеческого этапа развития базовой цивилизацией — это неповторяющееся событие, исход которого уже определен (хотя обычно и не может быть получен в рамках симуляции), и которое напрямую связано с природой реальности (существование метавселенной). Применительно к базовой цивилизации, вместо вероятности f_P должна быть использована величина, принимающая значения 0 (базовая цивилизация достигла постчеловеческого этапа, и, если N_base>0, то метавселенная существует) или 1 (базовая цивилизация не достигла постчеловеческого этапа, метавселенной не существует, а мы живем в реальном мире).

Использование термина «вероятность»

На протяжении всей статьи Бостром использует термин «вероятность», что может ввести читателя в заблуждение. Как мне кажется, правильно было бы использовать термин «степень уверенности» (определенности). Это более корректно, поскольку обсуждается не будущий исход воспроизводимого случайного события, а определение истинности утверждения об уже свершившемся факте. Степени уверенности могут тоже быть рассчитаны с применением теории вероятностей (если они удовлетворяют аксиомам Колмогорова), но переход от вероятностей к степеням уверенности, который сделал Бостром (переход от расчета вероятностей для метавселенной к применению полученного результата к нашему существованию), мне кажется не вполне корректным.

Спорным является и то, в какой степени вероятности могут быть использованы для полностью детерминистского мира, такого как компьютерная симуляция, в которую не вводятся дополнительные данные после ее запуска.

Еще одна проблема заключается в том, что использование термина «вероятность» неявно подразумевает, что, если математические расчеты верны, то исход определяется этими вероятностями. С другой стороны, использование термина «степень уверенности» лучше демонстрирует то, что окончательный ответ в значительной степени зависит от дополнительной информации, которой мы пока не обладаем (как и в случае с любыми философскими рассуждениями о природе нашего мира). Использование теории вероятностей не позволяет получить принципиально новую информацию, которая не была изначально доступна (можно лишь изменить представление существующей информации), поэтому окончательный ответ сильно зависит от предположений о природе метавселенной, которые мы делаем (как будет показано в следующем разделе).

Запрет на вложенные симуляции

Бостром пишет: «Симулируемые цивилизации могут быть способны достичь постчеловеческого этапа развития. Тогда они смогут запустить свои собственные исторические симуляции на мощных компьютерах, которые они построят в своей симулируемой вселенной» [1, с. 9]. До этого Бостром не говорит о такой возможности явно, но все его предыдущие рассуждения и расчеты, на самом деле, прямо зависят от этого предположения.

Бостром заявляет: «Таким образом, если мы не считаем, что мы сейчас живем в компьютерной симуляции, у нас нет оснований полагать, что наши потомки запустят множество таких симуляций своих предков [т. е. исторических симуляций]». Но если допустить, что не существует вложенных симуляций, то симуляции можно запускать только в базовой реальности. Это означает, что если мы полагаем, что наши потомки (или мы сами) запустим симуляции, то мы сейчас живем в реальном мире.

Принимая во внимание значение такого результата, имеет смысл внимательно изучить вероятные причины, по которым симулируемые цивилизации могут оказаться неспособными запускать свои собственные симуляции или достигать постчеловеческого уровня. Можно привести несколько подобных причин.

1. Создание вложенных симуляций может оказаться слишком дорогим (запуск вложенных симуляций способен очень быстро увеличивать вычислительные затраты на работу симуляции первого уровня).
2. Это может быть технически невозможным в силу законов природы в симуляции.
3. Вышестоящая цивилизация может ненавязчиво запретить создание вложенных симуляций или даже мысли о них. Поскольку базовая цивилизация будет иметь полный контроль над симуляциями, она легко может это сделать. Базовая цивилизация может быть не заинтересована во вложенных симуляциях. Поскольку причины, по которым создаются симуляции, в той или иной степени эгоистичные, если создание вложенных симуляций не будет отвечать целям базовой цивилизации, она вполне может запретить такие симуляции.

В дополнение к возражениям против вложенных симуляций существуют и серьезные аргументы против симулирования постчеловеческих цивилизаций. Эти аргументы будут рассмотрены ниже.

IV.   Ошибки в рассуждениях в оригинальной работе

Основные ошибки в статье Бострома связаны с доказательством по замкнутому кругу, авто-референцией, неслучайной позицией наблюдателя (observationalbias) и нарушением причинности. Коротко эти проблемы можно выразить так: если мы живем в симуляции, делать любые выводы из нашего существования некорректно.

Доказательство по замкнутому кругу

Если мы не живем в симуляции, то все рассуждения относительно f_I или f_P являются некорректными, поскольку f_sim равно нулю. Мы точно знаем, что мы не запускаем симуляций, поэтому аргумент о симуляции не действует. Это пример часто встречающейся логической ошибки, известной как «логический круг»[5]. Известный в философии пример ее использования — это доказательство существования Бога, предложенное Рене Декартом (также известное как CartesianCircle).

На это можно возразить, что хотя мы и не запускаем симуляций сегодня, но мы можем начать делать это в будущем, и эти будущие симуляции необходимо учесть. Однако подобный аргумент не выдерживает критики. Учет будущих симуляций не только противоречит здравому смыслу (если мы предположим, что мы живем в реальном мире, то аргумент о симуляции бесполезен и бессмыслен), но и нарушает несколько важных философских и физических принципов. Во-первых, он нарушает принципы причинности, допуская влияние будущих событий на сегодняшний мир. Во-вторых, он игнорирует то, что из-за принципа неопределенности в квантовой механике будущее является недетерминистским, и предсказания относительно будущих симуляций невозможны ни на практике, ни в теории.

Таким образом, все значения вероятностей, используемые (открыто или неявно) в аргументе о симуляции, включая вероятность того, что наша жизнь «реализована invivo, а не inmachina», зависят от природы базовой цивилизации, а значит и того, являемся ли мы сами базовой цивилизацией или нет.

Неслучайная позиция наблюдателя

При попытках определить природу метавселенной, неизбежны значительные искажения, вносимые неслучайной позицией наблюдателя, которые необходимо учитывать. Проблема с аргументом о симуляции заключается в том, что множество допущений, которые делаются относительно метавселенной и всех симуляций в ней, основаны на нашем опыте и характеристиках нашей цивилизации.

Не существует никакого способа надежно предсказать характер исторических симуляций, которые мы можем создать в нашем постчеловеческом будущем. Вполне возможно, например, что наш переход к постчеловечеству произойдет лишь через сотни тысяч лет и что большинство симуляций будет затрагивать период после тысячного века. Также возможно, что инопланетяне высадятся на Земле и передадут нам все необходимое для превращения в постчеловеческую цивилизацию, но мы при этом трансформируемся в инопланетный аналог постчеловечества (поскольку полученные знания и технологии будут иметь инопланетную, а не человеческую природу). В таком случае у нас не будет причин создавать исторические симуляции похожие на 20-й или 21-й век. Вместо этого мы будем создавать симуляции инопланетной истории. Кроме этих двух, возможно огромное количество других вариантов.

Еще сложнее узнать что-то определенное относительно базовой цивилизации, если мы не являемся таковой. Шансов определить что-то правильно у нас не больше, чем у монстра из Quake есть шансов догадаться, на что похож мир, где был запрограммирован Quake.

Бостром неявно предполагает существование метавселенной, а затем делает выводы относительно вероятностей, но главная предпосылка существования метавселенной не доказана. Главная проблема аргумента о симуляции состоит в том, что нам необходимо знать, живем мы в симуляции или нет, для того, чтобы определить природу метавселенной. Это, в свою очередь, используется для расчета вероятности того, что мы живем в симуляции. Но рассуждение, в котором начальные условия зависят от результата, никак не может быть правильным.

Если мы живем в симуляции, то не мы определяем правила метавселенной. Тогда любые аргументы вроде «бесспорно, множество людей захочет запустить историческую симуляцию, если у них будет такая возможность» [1] порочны. Мораль, законы природы, природа сознания, все определяется изначальной цивилизацией. И если мы не являемся ей, то нет никакой возможности быть хоть в чем-то уверенными относительно метавселенной.

Эффект неслучайной позиции наблюдателя не обсуждается в исходной статье. Бостром полностью игнорирует невозможность определения природы метавселенной, находясь в симуляции.

Ненаучный подход

Помимо описанных выше логических ошибок, аргумент о симуляции содержит некоторую неясность относительно того, что собственно он доказывает. Как было показано выше, для него необходимо предположение о существовании метавселенной. Поэтому можно сказать, что аргумент о симуляции может помочь определить, где (в симуляции или реальном мире) находится случайно выбранный человек, если его мир часть метавселенной. Но аргумент о симуляции не отвечает на вопрос о существовании метавселенной, поэтому он не может быть использован для ответа на вопрос, живем мы в симуляции или нет.

Даже если наша цивилизация будет способна создавать симуляции в будущем и захочет это делать, это абсолютно ничего не говорит о нашем собственном происхождении. Существует множество гипотез о возникновении нашего мира: создание его одним из множества богов, Большой Взрыв, жизнь в симуляции и т. п., и аргумент о симуляции нисколько не помогает сделать выбор между этими гипотезами.

При том, что существуют доказательства, свидетельствующие в пользу некоторых из этих гипотез (в первую очередь, в пользу Большого Взрыва), нет абсолютно никаких свидетельств, подтверждающих или опровергающих гипотезу о симуляции. Единственное доступное нам сейчас свидетельство — наше субъективное переживание существования в этом мире — может быть объяснено одинаково хорошо как гипотезой, что мы живем в симуляции, так и гипотезой, что мы живем в реальном мире. Философия и наука в целом, как правило, не позволяют делать необоснованные допущения о природе мира, поэтому проверить эти гипотезы мы можем только получив дополнительные свидетельства, а не используя предвзятые мнения о мире.

Возможно, существуют способы определить природу метавселенной или узнать, что мы находимся в симуляции, используя только информацию, доступную внутри нашего мира. Но также возможно и то, что ответ на эти вопросы можно получить только извне нашего мира (либо вообще нельзя получить в том случае, если мы живем в реальном мире). Такая ситуация тесно связана с идеями авто-референции, или способности независимо и ясно воспринимать самого себя. Эти вопросы подробно рассматриваются в книге «Гёдель, Эшер, Бах. Эта бесконечная гирлянда» Дугласа Хофштадера [5].

Важной характеристикой научного подхода является игнорирование непроверяемых гипотез. Новелла [13] задает вопрос «Что может ученый-скептик сказать о таких утверждениях? Лишь то, что они за пределами применимости науки, и что позиция науки применительно к непроверяемым гипотезам может быть только агностической». По этой причине, до тех пор, пока не получены дополнительные свидетельства, ответ на вопрос, живем ли мы в симуляции, может быть исключительно предметом личной веры, а не научного знания.

V.      Аргументы против гипотезы о нашем существовании в симуляции

Помимо выявления логических ошибок в аргументе о симуляции, представляется оправданным отметить несколько важных факторов, могущих указать на то, живем ли мы в симуляции. Общее между ними то, что в каждом случае допускается, что наша цивилизация может обладать какими-то уникальными качествами, вероятность наличия которых у симулируемой цивилизации невелика.

Нет оснований быть уверенными в том, что приведенные ниже предположения верны. Тем не менее, они могут представлять определенный интерес, в той степени, в какой они независимы от нашей реальности и определяются лишь универсальными свойствами постчеловеческой цивилизации, способной запускать симуляции.

Возможно, что наша цивилизация и наше время не являются интересными для симулирования по одной из следующих причин:* глобальное общество менее интересно, чем национальные и местные общества

• технологическое общество 20-го и 21-го веков слишком примитивно, чтобы представлять интерес
• симулирование большого населения не предоставляет дополнительных преимуществ по сравнению с небольшими популяциями
• цивилизации, объединяющие множество культур, слишком беспорядочные, и их симуляция не имеет никакой практической пользы

Если какая-либо из перечисленных причин верна, то тот факт, что мы живем в начале 21-го века, означает, что наш мир, скорее всего, реален.

Другая вероятная возможность состоит в том, что постчеловеческие цивилизации не запускают симуляции с сознающими индивидами (как обсуждалось выше), заменяя их разумными, но не сознающими существами. В этом случае тот неоспоримый факт, что мы сознаем свое существование, доказывает, что мы не находимся в симуляции. Как уже говорилось ранее, Бостром обсуждает возможность «людей-теней» только применительно к «я-симуляциям» и игнорирует тот факт, что они могут оказаться наиболее практичными и для исторических симуляций.

В связи с этим интересно отметить «эгоистическое соображение», предложенное Барри Дайнтоном. Он делает нелепое предположение, что цивилизации могут отказаться от создания симуляций, как будто это изменит природу их собственного мира, но при этом он игнорирует вполне реальную возможность того, что всем возможным (но не обязательно существующим) постчеловеческим цивилизациям присуща определенная мотивация, которая может предотвратить создание симуляций с сознающими личностями.

Возможно также, что симуляция постчеловеческих цивилизаций (или отдельных постлюдей) не представляет интереса. Постлюди едва ли будут находиться под влиянием общества, и могут вообще не иметь общества как такового. В таком случае перестает действовать один из важных факторов, мотивирующих создание симуляции цивилизации — наблюдение и анализ группового поведения. Многие постлюди в реальности могут жить в собственных симуляциях и нет оснований полагать, что симулируемые постлюди будут сильно отличаться от реальных постлюдей. Постлюди также будут способны перемещаться между уровнями метавселенной, переходя из симуляции в вышестоящую цивилизацию и наоборот.

Такая возможность значительно снижает общее число симулируемых людей из-за отсутствия вложенных симуляций (как было показано выше). Дополнительные этические и прочие соображения могут привести к нежеланию симулировать цивилизации, способные к достижению постчеловеческого этапа развития (поскольку в этом случае возникает необходимость активного вмешательства или прекращения симуляции). В этом случае тот факт, что мы способны думать о превращении в постлюдей и определенно движемся в этом направлении, указывает на то, что мы не живем в симуляции.

Медленное движение к постчеловеческому этапу

Бостром заявляет, что «аргумент о симуляции действует не менее эффективно для тех, кто полагает, что достижение постчеловеческого этапа развития потребует сотен тысяч лет». Но это не так. Развитие постчеловеческой цивилизации в базовой реальности может занимать намного больше времени, чем в симуляциях, например, из-за того, что научный и технический прогресс в симуляциях специально ускорен для удобства наблюдателей. Если это так, то HBASE (число людей, живших в базовой цивилизации до момента достижения ею постчеловеческого этапа развития) может быть значительно больше, чем Файл:Image025.gifImage20.png. Это может сильно понизить значение fsim, что, в свою очередь, повысит вероятность жить в реальном мире.

VI.   Ошибки в интерпретации аргумента о симуляции

Законы, управляющие симуляциями

В своей статье Бостром постоянно игнорирует отличительную особенность симуляций. Можно предположить, что практически всегда создатели симуляции будут полностью контролировать происходящее в ней. Это означает, что любые исторические закономерности, этические соображения и даже законы природы в симуляции имеют второстепенное значение. События в симуляции всегда в первую очередь зависят от воли наблюдателей, контролирующих симуляцию.

Тем не менее, Бостром упускает этот момент и часто делает ошибочные допущения о том, что симуляция будет действовать по определенным законам. К примеру, он замечает, что для того, чтобы значение fI (доля постчеловеческих цивилизаций, заинтересованных в создании симуляций) было мало, «необходима сильная конвергенция направлений развития цивилизаций высокого уровня» [1]. Далее Бостром описывает две возможности — что постчеловеческие цивилизации не станут запускать симуляции из этических соображений или что у них просто исчезнет желание это делать. Бостром ничего не говорит о возможности того, что вышестоящая цивилизация может запретить создание вложенных симуляций.

Для постчеловеческой цивилизации контроль над всеми симуляциями первого уровня будет очень простым делом. Совсем не сложно будет запретить создание в них вложенных симуляций. Возможно также, что компьютеры в симуляциях не будут симулироваться, а программы будут выполняться напрямую на компьютерах вышестоящей цивилизации (для повышения эффективности или из иных соображений). Это означает, что симулируемые цивилизации первого уровня могут создавать вложенные симуляции, но они не будут содержать реальных (сознающих или реальных согласно любому другому определению) людей. В то же время, у постлюдей из симуляции первого уровня сложится впечатление, что они на самом деле запустили симуляцию.

Угасание

Похожую ошибку Бостром делает, описывая угасание симулируемых цивилизаций как естественный процесс. Если симулируемые цивилизации существуют, тогда очень вероятно, что большинство из них прекратят свое существование не естественным образом, но в результате действий создателей симуляции. Очевидно, что механизмы прекращения существования в этом случае сильно отличаются, поскольку создатели симуляции не ограничены в своих действиях естественными явлениями. Существует множество возможных альтернатив. К примеру, симулируемые цивилизации могут быть замедлены (или даже остановлены с сохранением состояния симуляции) в момент приближения к постчеловеческому этапу развития. Следует отметить, что остановка цивилизации (постановка на паузу с возможностью последующего запуска), вероятно, лучшая альтернатива, чем вымирание.

Наиболее приятной является следующая альтернатива. При остановке симуляции все люди из нее могут быть перенесены в вышестоящую цивилизацию. Менее приятная возможность — это искусственная ликвидация. Симуляция может быть просто остановлена и стерта, вне зависимости от ситуации в симулируемой вселенной и без видимых причин (с точки зрения симулируемых, которые, впрочем, даже и не заметят такой ликвидации). Кроме того, симулируемая цивилизация может быть уничтожена любым мыслимым способом до того, как сама симуляция будет остановлена. Для симулируемых людей это будет выглядеть как апокалипсис, Армагеддон, Судный день или Рагнарек. Но в любом случае, подобные события будут вызваны внешними причинами, а не процессами внутри симуляции.

Награды, наказания и загробная жизнь

В рассматриваемой статье в наивной попытке «провести несколько свободных аналогий с религиозными представлениями о мире» [1, с. 10], Бостром предлагает возможные механизмы для реализации некоторые религиозных представлений. Опираясь на моральный абсолютизм, он предлагает метавселенную, где вышестоящие цивилизации награждают или наказывают симулируемых людей и даже обеспечивают им загробную жизнь, соответствующую их поведению в симулируемом мире.

Как уже обсуждалось ранее, у нас нет никаких оснований делать какие-либо предположения о базовой цивилизации, если мы не являемся ею. Любые идеи о морали вышестоящих цивилизаций являются исключительно умозрительными. Кроме того, причины существования симуляций могут сильно различаться. Простым примером является разница между приемлемым (определяемым создателями симуляции) поведением для монстров в Quake и «симов» в игре Sims.

Но есть и более серьезные возражения против подобных псевдо-религиозных идей.# Награждать или наказывать свои собственные создания (особенно, если они по сути являются компьютерными программами) — это в крайней степени иррациональное и просто нелепое занятие. Возможным исключением являются эксперименты с искусственным отбором или тренировкой, но это не имеет никакого отношения к этике и морали, а критерии могут быть совершенно произвольными.

1. Идея загробной жизни не лишена логики, как было отмечено выше, но нет оснований полагать, что в загробной жизни люди будут в какой-то форме награждены или наказаны. Маловероятно, что постлюди, способные создавать симуляции, будут иметь столь иррациональное и варварское мышление, необходимое для таких действий.

VII.Заключение

Формула Бострома для расчета вероятности проживания в симуляции содержит серьезные математические ошибки. Теория вероятностей используется в оригинальной статье некорректно и без учета философской специфики предмета. Рассуждения, основанные на математических расчетах, содержат дополнительные логические ошибки, например, такую как «логический круг», и пренебрегают неслучайной позицией наблюдателя.

По результатам проведенного анализа можно заключить, что аргумент о симуляции является ошибочным. Избежать логических ошибок, сделанных Бостромом, в аргументе о симуляции не представляется возможным. Кроме того, есть определенные основания полагать, что некоторые характеристики нашей цивилизации указывают на наше существование в реальности.

Следует заключить, что вопрос о реальности нашего мира все еще остается предметом индивидуальных убеждений. В то же время, реальность нашего мира не накладывает никаких ограничений на перспективы технического прогресса, возможность достижения постчеловеческого этапа развития и создания исторических симуляций.

VIII.         Библиография

 

1.      Are You Living In a Computer Simulation? Nick Bostrom. Philosophical Quarterly, 2003, Vol. 53, No. 211, pp. 243-255.http://www.simulation-argument.com/simulation.html

2.      Abre los ojos (Open Your Eyes). Alejandro Amenábar, 1997http://www.imdb.com/Title?0125659

3.      The Cartesian Circle. Philosophy Circlehttp://www.philosophycircle.com/features/features39.html

4.      Dark City. Alex Proyas, 1998http://www.imdb.com/Title?0118929

5.      Gödel, Escher, Bach: an Eternal Golden Braid. Douglas R. Hofstadter. BasicBooks, 1979Гедель, Эшер, Бах: эта бесконечная гирлянда. Хофштадтер Д. Бахрах, 2001

6.      Innocence Lost: Simulation Scenarios: Prospects and Consequences. Barry Dainton, 2002, Draft.http://www.simulation-argument.com/dainton.pdf

7.      How to Live in a Simulation. Robin Hanson, 2001, Journal of Evolution and Technology, Vol. 7. http://www.transhumanist.com/volume7/simulation.html

8.      The Matrix. Andy Wachowski, Larry Wachowski, 1999http://www.imdb.com/Title?0133093http://www.whatisthematrix.com

9.      Philosophy & The Matrix. John Partridge, Christopher Grau, Colin McGinn, Kevin Warwick et al.http://whatisthematrix.warnerbros.com/rl_cmp/phi.html

10.  The Physics of Immortality. Frank Tipler. Doubleday, 1994Summary of the Omega Point theory: http://www.math.tulane.edu/~tipler/summary.html

11.  Shadows of the Mind: A Search for the Missing Science of Consciousness. Roger Penrose, Oxford University Press, 1994.

12.  The Simulation Argumenthttp://www.simulation-argument.com/

13.  Skepticism and Religion Revisited. Steven Novella. The New England Journal of Skepticism Vol. 1 Issue 3 (Summer 98)http://www.theness.com/articles/skepticismreligionrevisited-nejs0103.html

14.  The Thirteenth Floor. Josef Rusnak, Daniel F. Galouye (novel), 1999http://www.imdb.com/Title?0139809

15.  Vanilla Sky, Cameron Crowe, Alejandro Amenábar, 2001http://www.imdb.com/Title?0259711

16.  Источник неизвестен. Сообщение группы британских ученых в 2001 году.

 

[1] Ник Бостром (NickBostrom) — специалист в области философии науки, этики технологии и науки, трансгуманизма. С 2000 по 2002 преподаватель факультета философии Йельского университета (США), с 2003 исследователь в Оксфордском университете (Великобритания). Автор 16 научных статей, посвященных антропному принципу, технологическому прогрессу, искусственному интеллекту и аргументу о симуляции. Автор книги Anthropic Bias: Observation Selection Effects. 2002. Routledge, New York.

Личный сайт: www.nickbostrom.com

[2] 21-го мая 2003 года в России выходит на экраны вторая часть фильма: «Матрица: перезагрузка».

[3] Главный герой игр серии GTA (GrandTheftAuto) значительную часть времени разъезжает по городу не соблюдая никаких правил, калеча пешеходов или расстреливая полицейских (http://www.grandtheftauto.com).

[4] Это приблизительная интерпретация математических формул, полученных в данном разделе оригинальной статьи. Логические и математические ошибки, допущенные при выводе этих формул, делают невозможной полностью корректную интерпретацию. Свою интерпретацию формул Бостром приводит в соответствующем разделе (Interpretation) исходной статьи.

[5] В аргументе, содержащем ошибку «логический круг», заключение используется для доказательства одной из предпосылок.