Читать «Рациональность: от ИИ до зомби» онлайн

Элиезер Шломо Юдковски

Страница 289 из 457

освоиться. Но поверхностные явления совершенно обыденны. Вы никогда не заметите краем глаза другой мир. Вы никогда не услышите голос другого своего «я». Это недвусмысленно и напрочь запрещено законами природы. Извините, вы просто шизофреник.

Процесс принятия решений никак по-особенному не взаимодействует с процессом ветвления миров. В вашем разуме, в вашем воображении решение кажется точкой ветвления, где мир может пойти по одному из двух разных путей. Но вы испытывали бы точно такую же неопределенность и представляли бы точно такие же альтернативы, будь мир всего один. Именно так люди думали веками до появления квантовой механики, и всё равно представляли себе альтернативные исходы, к которым могут привести их решения.

Принятие решений и декогеренциясовершенно ортогональные понятия. Если бы в вашем мозгу никогда не происходило декогеренции, этот единый когнитивный процесс всё равно должен был бы воображать разные варианты выбора и их различные последствия. А камень, который никаких решений не принимает, подчиняется тем же законам квантовой механики, что и всё остальное, и неистово расщепляется, просто лёжа на одном месте.

Вы не разделяетесь в момент принятия решения как-то по-особенному — точно так же, как вы не разделяетесь по-особенному, когда делаете вдох. Вы просто постоянно разделяетесь в результате декогеренции, которая не имеет никакого отношения к выбору.

Существует популяция миров, и в каждом мире всё это в сумме даёт нормальность: яблоки не перестают падать. В каждом мире люди выбирают тот путь, который кажется им наилучшим. Возможно, они натыкаются на другой ход мыслей, видят новые следствия или упускают другие и приходят к иному выбору. Но дело не в том, что каждый мир делает свой выбор. Не в том, что одна версия вас выбирает то, что кажется лучшим, а другая — то, что кажется худшим. В каждом мире яблоки продолжают падать, а люди продолжают делать то, что кажется им хорошей идеей.

Да, в этом правиле можно выискивать исключения, но это нормальные исключения. В конечном итоге всё сводится к нормальности во всех мирах.

Вы не можете «выбрать, в каком мире оказаться». Во всех мирах выбор людей определяет результаты точно так же, как это происходило бы в одном-единственном мире.

Выбор, который вы делаете здесь, не оказывает какого-то странного балансирующего влияния на какой-то другой мир. Между декогерентными мирами нет причинно-следственной связи. В каждом мире выбор людей определяет будущее этого самого мира, а не какого-то другого.

Если вы можете представить себе принятие решений в одном мире, вы можете представить себе принятие решений и во многих мирах: просто пусть мир постоянно расщепляется, в остальном подчиняясь тем же самым правилам.

Ни в одном мире дважды два не равно пяти. Ни в одном мире космические корабли не могут летать быстрее света. Все квантовые миры подчиняются нашим законам физики; само их существование утверждается прежде всего нашими законами физики. С самого начала времён ни в этом, ни в каком-либо другом мире не произошло ничего необычного. Все они законосообразны.

Есть ли где-то там ужасные миры, на которые вы совершенно не способны повлиять? Конечно. И в двенадцатом веке происходили ужасные вещи, на которые вы тоже никак не можете повлиять. Но вы не несете ответственности за двенадцатый век, потому что он, как выражаются старомодным слогом, «уже прошёл». Я бы предложил вам относиться к любому миру, который не лежит в вашем будущем, как к части «обобщённого прошлого».

Живите в своём собственном мире. До того, как вы узнали о квантовой физике, у вас не возникало искушения попытаться жить в мире, который, казалось, не существовал. Ваши решения должны сводиться к той же нормальности: вам не следует пытаться жить в квантовом мире, с которым вы не можете связаться.

Ваша теория решений должна быть (почти всегда) одной и той же — предполагаете ли вы, что вероятность какого-то события равна 90%, или же что оно произойдёт в 9 из 10 миров. Поскольку людям бывает трудно работать с вероятностями, визуализировать событие, происходящее в 9 из 10 миров, действительно может быть полезно. Но это лишь помогает вам использовать обычную теорию решений.

Сейчас самое время начать учиться тому, как заткнуться и умножать. Как я отмечаю в эссе «Лотереи: пустая надежда»:

Человеческий мозг не производит 64-битных вычислений с плавающей точкой и не способен уменьшить эмоциональную силу приятного предвкушения в 0,00000001 раза без того, чтобы полностью не потерять нить рассуждений.

И в «Новой улучшенной лотерее»:

Между нулевым шансом стать богатым и шансом, равным эпсилон, существует разница порядка эпсилон. Если вы сомневаетесь в этом, пусть эпсилон будет равен единице, делённой на гуголплекс.

Если вы размышляете о мире, который мог бы возникнуть законосообразным путём, но вероятность которого составляет один к квадриллиону, и в этом мире происходит что-то очень приятное или очень ужасное... что ж, он, вероятно, действительно существует, коль скоро он законосообразен. Но вам следовало бы попытаться выделить в один квадриллион раз меньше нейромедиаторов в ваших центрах вознаграждения или избегания, чтобы вы могли адекватно взвесить этот мир в ваших решениях. Если вы не думаете, что способны на такое... не утруждайте себя размышлениями о нём.

Иначе вы с тем же успехом можете пойти и купить лотерейный билет с помощью квантового случайного числа — эта стратегия гарантированно приведёт к крошечному мегавыигрышу.

Или вот вам другой способ думать об этом: вы подумываете потратить часть мысленной энергии на мир, доля которого в вашем будущем меньше одной триллионной? Тогда сходите в местный магазин настольных игр за 10-гранным кубиком и, прежде чем начать думать об этом странном мире, начните его бросать. Если кубик покажет девятку двенадцать раз подряд, тогда вы можете подумать об этом мире. В противном случае не тратьте время; время на размышления — это ресурс, который нужно расходовать с умом.

Вы можете бросать кубик сколько угодно, но вам нельзя думать об этом мире, пока девятка не выпадет двенадцать раз подряд. После этого вы можете поразмышлять о нём минуту. А затем вам придётся снова бросать кубик.

Это поможет вам осознать концепцию «один к триллиону» на более глубинном уровне.

Если в какой-то момент вы поймаете себя на мысли, что квантовая физика может нести какие-то странные, аномальные последствия для повседневной жизни — то на этом вам, пожалуй, стоит остановиться.

О, у многомирия есть несколько следствий для этики. Утилитаризм средней полезности внезапно выглядит гораздо более привлекательным: вам больше не нужно беспокоиться о том, чтобы создать как можно больше людей, ведь людей, исследующих пространство