В этой статье талантливый исследователь Косма Шализи утверждает, что для полного принятия субъективного байесовского взгляда необходимо также принять нефизический результат, согласно которому стрелка времени (заданная потоком энтропии) действительно должна идти назад . В основном это попытка спорить с максимальной энтропией / полностью субъективной байесовской точкой зрения, выдвинутой и популяризированной ET Jaynes .
В LessWrong многие участники очень интересуются байесовской теорией вероятностей, а также субъективным байесовским подходом в качестве основы для формальных теорий принятия решений и трамплина к сильному А.И. Элиэзер Юдковский является обычным вкладчиком, и я недавно читал этот пост, когда я наткнулся на этот комментарий (несколько других хороших комментариев появятся вскоре после него на странице исходного поста).
Кто-нибудь может прокомментировать обоснованность опровержения Юдковского Шализи. Вкратце, аргумент Юдковского заключается в том, что физический механизм, с помощью которого рассуждающий агент обновляет свои убеждения, требует работы и, следовательно, имеет термодинамические издержки, которые Шалици подметает под ковром. В другом комментарии Юдковский защищает это, говоря:
«Если вы берете точку зрения логически всезнающего совершенного наблюдателя вне системы, понятие« энтропия »в значительной степени бессмысленно, как и« вероятность »- вам никогда не придется использовать статистическую термодинамику для моделирования чего-либо, вы просто используете детерминированный точный волновое уравнение. "
Могут ли это прокомментировать какие-либо вероятностные или статистические механики? Меня не волнуют аргументы авторитета относительно статуса Шализи или Юдковского, но мне бы очень хотелось увидеть краткое изложение того, как три пункта Юдковского содержат критику статьи Шализи.
Чтобы соответствовать рекомендациям FAQ и сделать этот вопрос конкретным ответом, обратите внимание, что я прошу конкретный, подробный ответ, который принимает трехэтапный аргумент Юдковского и указывает, где в статье Shalizi эти три шага опровергают предположения и / или выводы, или, с другой стороны, указывает, где в статье Шализи приводятся аргументы Юдковского.
Я часто слышал, что статья Шализи рекламируется как железное доказательство того, что полномасштабное субъективное байесианство не может быть защищено ... но после прочтения статьи Шализи несколько раз это выглядело для меня как игрушечный аргумент, который никогда не применим наблюдателю, взаимодействующему с тем, что наблюдается (т. е. со всей реальной физикой). Но Шализи - великий исследователь, поэтому я бы приветствовал второе мнение, потому что весьма вероятно, что я не понимаю важные части этих дебатов.
Ответы:
Короче говоря: 1: 0 для Юдковского.
Косма Шализи рассматривает распределение вероятностей, подвергнутое некоторым измерениям. Он обновляет вероятности соответственно (здесь не важно, является ли это байенсовым выводом или чем-то еще).
Неудивительно, что энтропия распределения вероятностей уменьшается.
Однако он делает неправильный вывод, что это говорит о стреле времени:
Как было отмечено в комментариях, для термодинамики важна энтропия замкнутой системы . То есть, согласно второму закону термодинамики , энтропия замкнутой системы не может уменьшаться. Это ничего не говорит об энтропии подсистемы (или открытой системы); иначе вы не могли бы использовать свой холодильник.
И как только мы измеряем что-то (т.е. взаимодействуем и собираем информацию), это больше не закрытая система. Либо мы не можем использовать второй закон, либо - нам нужно рассмотреть замкнутую систему, состоящую из измеренной системы и наблюдателя (то есть нас самих).
В частности, когда мы измеряем точное состояние частицы (еще до того, как узнали ее распределение), мы действительно снижаем ее энтропию. Однако для хранения информации нам нужно увеличить нашу энтропию как минимум на ту же величину (обычно это огромные накладные расходы).
Итак, Элиэзер Юдковский делает хорошую мысль:
На самом деле, замечание о работе здесь не самое главное. Хотя термодинамика касается связи (или торговли) энтропии с энергией, вы можете обойтись (то есть нам не нужно прибегать к принципу Ландауэра , к которому Шализи относится скептически ). Чтобы собрать новую информацию, вам нужно стереть предыдущую информацию.
Чтобы соответствовать классической механике (и квантовой тоже), вы не можете создать функцию, произвольно отображающую что-либо на все нули (без побочных эффектов). Вы можете сделать функцию, отображающую вашу память на ноль , но в то же время сбрасывая информацию куда-то, что эффективно увеличивает энтропию среды.
(Вышеприведенное исходит из гамильтоновой динамики - т.е. сохранения фазового пространства в классическом случае и унитарности эволюции в квантовом случае.)
PS: трюк на сегодня - «уменьшение энтропии»:
источник
Недостаток Шализи является очень основным и вытекает из предположения I, что временная эволюция обратима (обратима).
Эволюция ИНДИВИДУАЛЬНЫХ состояний во времени обратима. Временная эволюция распределения по ВСЕМ ФАЗОВЫМ ПРОСТРАНСТВУ, безусловно, необратима, если только система не находится в равновесии. В статье рассматривается эволюция во времени распределения по всему фазовому пространству, а не отдельных состояний, поэтому предположение об обратимости совершенно нефизично. В случае равновесия результаты тривиальны.
Стрела времени проистекает из того факта, что эволюция распределений во времени необратима (причина, по которой градиенты уменьшаются и газы распространяются). Известно, что необратимость возникает из «терминов столкновения»
Если принять это во внимание, его аргумент развалится. Информационная энтропия = термодинамическая энтропия, пока что. : D
источник
Связанный документ явно предполагает, что
Но если вы используете QM обычным способом, то это предположение не выполняется. Предположим, у вас есть состояние X1, которое может развиться в X2 или X3 с равной вероятностью. Вы бы сказали, что состояние X1 развивается во взвешенное множество [1/2 X2 + 1/2 X3]. Шализи доказывает, что этот набор обладает не большей энтропией, чем X1.
Но мы, как наблюдатели или как часть этой системы, можем взглянуть только на одну из ветвей: X2 или X3. Выбор того, какие из этих двух ветвей мы увидим, добавляет новый бит энтропии, и этот выбор не является обратимым. Отсюда и увеличение энтропии со временем. То, что сделал Шализи, - это использовать математику, в которой вся энтропия возникает в квантовом ветвлении, а затем забыть, что квантовое ветвление происходит.
источник