Читать онлайн «Российская Академия Наук». Страница 74

Выводы: различные независимые методы непрямых рассуждений дают оценки вероятности гибели цивилизации в XXI веке в десятки процентов. Это не должно нас успокаивать в том смысле, что как будто бы это гарантирует нам десятки процентов выживания. Потому что, если учесть степень неопределённости таких рассуждений, то это события категории «десятки процентов», которая, как мы предположили в начале, означает риски от 1 до 100 %.

Рассуждение о Симуляции

Ник Бостром разработал следующую логическую теорему, называемую рассуждением о Симуляции (мы уже упоминали её в контексте рисков внезапного отключения «Матрицы» и принципиально новых открытий). Вот ход его рассуждений:

Исходя из текущих тенденций в развитие микроэлектроники, кажется вполне вероятным, что рано или поздно люди создадут саморазвивающийся искусственный интеллект. Нанотехнологии обещают предельную плотность процессоров в триллион штук на грамм вещества (углерода) – с производительностью порядка 10 флопс. Плюс нанотехнологии позволят превращать залежи каменного угля в такое устройство. Это открывает перспективу превращения всей Земли в «компьютрониум» – одно огромное вычислительное устройство. Мощность такого устройства оценивается в 10 операций в секунду. (Что соответствует превращению миллиона кубических километров вещества в компьютрониум, который покроет всю Землю слоем в 2 метра.) Использование всего твёрдого вещества в Солнечной системе даст порядка 10 флопс. Очевидно, что такая вычислительная мощь могла бы создавать детальные симуляции своего человеческого прошлого. Поскольку предполагается, что для симуляция одного человека нужно не более чем 10 флопс (это число основано на количестве нейронов и синапсов в мозгу, и частоте их переключения), то это даст возможность симулировать одновременно 10 людей, или 10 цивилизаций, подобных нашей, с нашей же скоростью развития. Вряд ли компьютрониум направит все свои ресурсы на симулирование людей, но даже если он выделит на это одну миллионную усилий, это будет всё ещё порядка 10 человеческих цивилизаций. Итак, даже если только одна из миллиона цивилизаций порождает компьютрониум, то этот компьюториум порождает порядка 10 цивилизаций, то есть на каждую реальную цивилизацию приходится 10 виртуальных. Здесь важны не конкретные цифры, а то, что множество симулированных цивилизаций на много-много порядков больше множества реальных.

Отсюда Ник Бостром делает вывод, что верно одно из трёх:

1) Или наша цивилизация погибнет и не создаст компьюториум.

2) Или КАЖДЫЙ компьюториум будет абсолютно не заинтересован в моделировании своего прошлого.

3) Или мы уже находимся внутри имитации в компьюториуме.

При этом пункт 2 можно исключить из рассмотрения, потому что есть причины, по которым хотя бы некоторые компьюториумам будет интересно, каковы именно были обстоятельства их возникновения, но нет такой универсальной причины, которая могла бы действовать на все возможные компьюториумы, не позволяя им моделировать своё прошлое. Причина интереса к своему прошлому может быть много, назову несколько – это вычисление вероятности своего возникновения, чтобы оценить плотность других сверхцивилизаций во вселенной или развлечение людей или неких других существ.

В этом случае рассуждение о симуляции сводится к острой альтернативе: «Или мы живём в мире, который обречён погибнуть, или мы живём в компьютерной симуляции».

Впрочем, гибель мира в этом рассуждении не означает вымирания всех людей – она означает только гарантированную остановку прогресса до того, как компьюториум будет создан. Гарантированность её означает не только, что она произойдёт на Земле, но и на всех остальных возможных планетах. То есть она означает, что имеется некий очень универсальный закон, который препятствует подавляющему (на много-много порядков) большинству цивилизаций создать компьюториум. Возможно, это происходит просто потому, что компьюториум невозможен, или потому что моделирование человеческого сознания на нём невозможно. Но может быть, что это происходит потому, что ни одна цивилизация не может достичь уровня компьюториума, так как сталкивается с некими неразрешимыми противоречиями, и вынуждена или погибнуть, или откатится назад. Эти противоречия должны носить универсальный характер, а не быть связаны только, скажем, с атомным оружием, потому что тогда цивилизации на тех планетах, в коре которых нет урана, смогут устойчиво развиваться. Примером такого универсального противоречия может быть теория хаоса, которая делает системы выше определённого уровня сложности принципиально нестабильными.

Известное возражение к рассуждению о симуляции опирается на то, что симуляция реальности вовсе не обязательно является копией того, что было в прошлом. (См. обзор возражений рассуждению о симуляции в статье Данилы Медведева «Живём ли мы в спекуляции Ника Бострома?» ) И если мы находимся в сконструированном мире, то это не позволяет нам делать выводы о том, каков реальный мир. Как, например, не может монстр из компьютерной игры догадаться о реальном устройстве мира людей. Однако то, что мы не знаем, каков мир за пределами симуляции, не мешает нам знать, что мы всё же находимся в симуляции. Здесь важно различать два смысла слова «симуляция» – как компьютерной модели, и как того факта, что эта модель напоминает некое историческое событие из прошлого. При этом можно предположить, что большинство симуляций не являются точными подобиями прошлого, и значительная доля симуляций вообще не имеет отношения к прошлому той цивилизации, которая их затем создала. Также и в литературе большинство романов не является историческими романами, и даже исторические романы не точно совпадают с прошлым.

Если мы находимся внутри симуляции, нам угрожают все те же риски гибели, которые могут случиться и в реальности, плюс вмешательство со стороны авторов симуляции, которые нам могут подкинуть некие «трудные задачки» или исследовать на нас некие экстремальные режимы, или просто поразвлечься за наш счёт, как мы развлекаемся, просматривая фильмы про падение астероидов. Наконец, симуляция может быть просто внезапно выключена. (У симуляции может быть предел ресурсоёмкости, поэтому авторы симуляции могут просто не позволить нам создавать настолько сложные компьютеры, чтобы мы могли запускать свои симуляции.)

Итак, если мы находимся в симуляции, это только увеличивает нависшие над нами риски и создаёт принципиально новые – хотя появляется шанс внезапного спасения со стороны авторов симуляции.

Если же мы не находимся в симуляции, то велик шанс, что любые цивилизации по причине катастроф не достигают уровня создания компьюториума, который мы могли бы достичь к концу XXI века. А это означает, велика вероятность неких глобальных катастроф, которые не позволят нам достичь этого уровня.

Получается, что рассуждение о симуляции действует таким образом, что обе его альтернативы ухудшают наши шансы выживания в XXI веке, то есть его нетто вклад отрицательный, независимо от того, как мы оцениваем шансы одной из двух альтернатив. (Моё мнение состоит в том, что вероятность того, что мы находимся в симуляции, – выше, чем вероятность того, что мы реальная цивилизация, которой суждено погибнуть, и на много порядков.)

Интересно отметить повторяющийся паттерн: альтернатива с SETI также имеет отрицательный нетто-эффект – если они рядом, то мы в опасности, если их нет, то мы тоже в опасности, поскольку это значит, что некоторые факторы мешают им развиваться.

Интеграция различных непрямых оценок

Все приведённые непрямые оценки выполнены независимо друг от друга, хотя дают примерно одинаковые и неутешительные результаты, состоящие в том, что вероятность человеческого вымирания высока. Однако поскольку эти рассуждения относятся к одной и той же реальности, возникает желание состыковать их в более целостную картину. Рассуждение о симуляции Бострома существует логически отдельно от рассуждения конце света Картера-Лесли (которое ещё надо связать с формулой Готта), и соответственно возникает соблазн их «поженить». Такая попытка предпринимается в работе Иштвана Араньоси «Doomsday Simulation Argument» . Их, в свою очередь интересно связать с многомирным бессмертием в духе Хигго и с влиянием эффекта наблюдательной селекции.

Интересная попытка такого рода предпринята в уже упоминавшейся статье Кноба и Олума «Философское значение космологической инфляции» . В противовес «частному Doomsday argument» в духе Картера-Лесли, они выдвигают «Вселенский Doomsday argument». А именно, они показывают, что из того, что мы обнаруживаем себя в ранней форме человечества, следует, с высокой вероятностью, что множество людей, находящееся в короткоживущих цивилизациях, больше множества всех людей, находящихся во всех долгоживущих цивилизациях по всей вселенной, или, иначе говоря, количество долгоживущих цивилизаций крайне мало. Это опять-таки означает, что шансы нашей цивилизации не прожить миллионы лет и не заселить галактику – весьма велики, однако меняет вероятные причины вымирания: а именно, это скорее произойдёт не из-за какой-то частной причины, относящийся только к Земле, а из-за некой универсальной причины, которая бы действовала на все планетарные цивилизации. Мы должны быть озабочены, пишут они, не орбитой конкретного астероида, а тем, что во всех планетарных системах существует настолько много астероидов, что это делает выживание цивилизаций маловероятным; мы должны быть озабочены не тем, что некая конкретная ближайшая звезда станет сверхновой, а тем, что смертоносность сверхновых существенно недооценивается. Отметим, что тот же вывод о том, что множество короткоживущих цивилизаций значительно превосходит множество долгоживущих, следует и из рассуждения о симуляции Бострома, если в качестве короткоживущих цивилизаций считать симуляции.