Нормировка энтропии и связь между энергией и информацией в системах из многих элементов - Введение меры информации в аксиоматическую базу механики - А.М. Хазен

Пусть дана система из N элементов, заключенных в объём V, имеющая полную энергию U, и её фазовое пространство с числом измерений 2f, где f – есть число степеней свободы элемента системы. Этим задано, что система рассматривается в -пространстве (в терминологии Эренфеста).

В современном развитии больцмановского формализма термодинамики принимается, что в -пространстве можно задать ячейку объёмом  и установить для её измерения минимальную дискретную единицу

, (1.18)

где h – постоянная Планка с размерностью действия.

С учетом введеной в предыдущих параграфах иерархичности энтропии-информации ясно, что минимальная единица объёма в фазовом пространстве должна иметь универсальное выражение:

, (1.19)

где – адиабатические инварианты, имеющие размерность действия, и соответствующие разным уровням иерархии энтропии-информации,.

Разобъём фазовое пространство на M ячеек. Их количество M конечно, но может быть очень большим числом. При применении метода ячеек у Больцмана объём ячейки задан произвольно, но это ячейки именно в фазовом пространстве с размерностью элемента его площади [энергия  время], то есть, с размерностью действия в том виде, как оно определено в механике.

Каждому микросостоянию системы отвечают свои значения координат qi и импульсов pi составляющих его различимых (допускающих нумерацию) элементов. Их можно отобразить в форме чисел заполнения ячеек фазового пространства элементами системы, имеющими интервал взаимосвязанных значений координат и импульсов, отвечающий данной ячейки. Применяя методы комбинаторики к этим числам, можно искать соответствие макроскопических переменных, описывающих систему из многих элементов (например, газ), и микросостояниями, описываемыми распределениями элементов системы.

Числа заполнения ячеек фазового пространства должны удовлетворять очевидному нормировочному условию:

, (1.20)

где N – общее число элементов системы.

Значению действия для i-той ячейки в фазовом пространстве должна отвечать величина энергии и должно выполняться нормировочное условие:

, (1.21)

где U – полная энергия системы.

Неизменному состоянию системы отвечают разные распределения нумеруемых элементов системы по ячейкам фазового пространства. Одному и тому же микросостоянию газа отвечает число  разных распределений из N молекул по M ячейкам, которое общеизвестным способом с использованием формулы Стирлинга может быть выражено формулой:

. (1.22)

В частном случае системы в виде газа и – постоянной Больцмана это выражение станет больцмановским определением энтропии S единицы объёма газа, если определить то распределение чисел по ячейкам, которое обеспечивает максимум энтропии S при заданных в задаче условиях.

Эта процедура называется нормировкой энтропии и состоит из решения вариационной задачи на отыскание максимума при условиях, заданных (1.20) и (1.21). Общий метод решения таких задач основан на использовании неопределённых множителей Лагранжа. Он состоит в том, что для исследуемой на экстремум функции при условиях на неё , где , образуется новая функция:

, (1.23)

которая исследуется на безусловный экстремум. В ней есть некоторые постоянные множители, которые относятся к системе в целом. Они могут выражаться размерными единицами.

В классическом больцмановском случае l = 2 (условий два – (1.20), (1.21)). Обозначают: . Тогда условие экстремума для уравнения (1.22) есть:

. (1.24)

Теперь числа независимы, поэтому из предыдущего уравнения следует, что

, (1.25)

. (1.26)

Если использовать (1.25) в (1.22) и условия нормировки (1.20) и (1.21), то следует:

(1.27)

или

. (1.28)

Множитель  относится к системе в целом, поэтому он находится не под знаком суммы.

В описанной выше классической постановке задачи о нормировке энтропии числа безразмерны. В строгом виде это не так. Числа не могут быть определены, если не задан объём ячейки фазового пространства. Поэтому в строгом виде числа имеют размерность . Формально, на вид условий (1.20) и (1.21) это не влияет, так как размерности правых и левых частей в них одинаковы и могут быть сокращены, что всегда и делается без дополнительных напоминаний. В случае условия (1.20) действительно что-либо оговаривать нет необходимости. Но в условие (1.21) в правой части входит макроскопическая полная энергия. Она имеет смысл и в том случае, когда отнесена ко всему объёму фазового пространства, а энергия ячейки отнесена к единице объёма для . При этом числа становятся безразмерными без сокращения единицы объёма как множителя правой и левой части в (1.21).

Условие (1.21) было записано для размерной величины – энергии. Соотношение (1.27) безразмерно. Это возможно в двух случаях:

если в (1.21) в правой и левой части размерный множитель сокращён и размерность  есть обратная энергия;

если в (1.21) в правой и левой части размерный множитель сохранен и размерность  есть обратное время.

Кроме того здесь необходимо подчернуть ещё раз то, что неоднократно подчеркнуто в этой работе и присутствует во всех классических оригинальных работах об энтропии и во всех классических учебниках: максимальное значение – – очень велико по сравнению с состояниями, которые отвечают ничтожно изменённым (по отношению к тем, которые соответствуют экстремуму) значениям . Несмотря на бесспорность и общеизвестность этого, высочайший детерминизм состояния остаётся, к сожалению, непонятым очень многими.

Если число N элементов системы постоянно, а её энергия U – изменяется, то изменение энтропии с учетом (1.27) есть:

. (1.29)

На этой основе условие постоянства числа элементов системы создаёт ограничения величин иимеющее вид:

. (1.30)

Величина

(1.31)

известна как статистическая сумма для данной задачи.

Множитель Лагранжа с помощью (1.30), (1.31) выражается как:

. (1.32)

С учетом (1.32), уравнение (1.28) принимает вид:

. (1.33)

Величина энергии есть

, (1.34)

а числа заполнения ячеек равны

. (1.35)

Множитель Лагранжа строго определяется из задачи на условный экстремум, но его физический смысл как обратной температуры устанавливается феноменологически – путём сопоставления с изохорическим процессом для идеального газа.

Для этого используется предположение о постоянстве объёма системы, входящее в постановку задачи о нормировке энтропии. Тогда логарифмическая производная от обоих частей (1.30) даст:

. (1.36)

Использование этого в (1.29) приводит к выражению:

. (1.37)

Общеизвестный результат применения второго начала термодинамики к изохорическому процессу есть соотношение:

. (1.38)

Из сопоставления (1.37) и (1.38) следует, что множитель Лагранжа с помощью температуры системы может быть записан в виде:

. (1.39)

В такой записи температура  выражается в градусах Кельвина, хотя при желании постоянная Больцмана может быть включена в температуру так, что она получит размерность и единицу энергии:

. (1.39а)

Нормировка энтропии устанавливает связь энергии системы U и величины энтропии S, отвечающей наиболее вероятному распределению, которое характеризует величина . При этом, наряду с энтропией S, описываемой логарифмической функцией, появляется ещё одна характеристика распределения – статистическая сумма и её логарифм.

Из изложенного ясно, что связь энтропии S и статистической суммы устанавливает формула:

(1.40)

или

. (1.41)

Назову семантической информацией переменную

(1.42)

и, в частности, для тепловых процессов, то есть при , переменную

(1.43)

и покажу далее те её свойства, которые оправдывают такое название.

С учетом введенного выше понятия о семантической информации, больцмановская нормировка энтропии устанавливает связь энтропии-информации, семантической информации и энергии.

Энергия как термодинамический потенциал может иметь разные формы, взаимосвязанные преобразованиями Лежандра, а также зависящие от того, какие конкретно исходные формы энергии (механическая, электромагнитная, химическая) рассматриваются совместно с той формой энергии, которая зависит от количеств информации (энтропии) системы. В частности, для случая количеств информации и только механической энергии как составляющих в законе сохранения энергии выделенную роль в описании процессов природы имеет термодинамический потенциал – свободная энергия Гельмгольца:

(1.44)

Продолжая пример изохорического процесса на основе (1.38) и (1.40), опуская промежуточные выкладки, можно проиллюстрировать фундаментальный смысл свободной энергии в терминах информации: статистическая сумма связана с величиной F свободной энергии системы соотношением:

. (1.45)

Соответственно связь (1.41) приобретает вид:

. (1.46)

Соотношения (1.45) и (1.46) универсальны, в частности, в них в общем виде присутствует адиабатический инвариант Kk данного уровня иерархии энтропии-информации, а не обязательно постоянная – Больцмана.

В общем виде в (1.45) необходимо учитывать существование разных форм энергии, которые характеризуют обобщённые координаты и обобщённые силы (как их называют в термодинамике – экстенсивные и интенсивные переменные). Например, для электрической энергии (индукции и напряженности электрического поля соответственно). Для магнитной энергии (напряженности и индукции магнитного поля). Химическая энергия зависит от количественных и силовых переменных в виде концентраций и химических потенциалов конкретно для каждой i-той реакции и имеет вид .

Изменения свободной энергии будут различны в зависимости от того, какие из переменных и выбраны в качестве независимых. Изменения свободной энергии в форме Гельмгольца характеризует выбор в качестве независимых переменных обобщённых координат (экстенсивных переменных):

. (1.47)

Изменения свободной энергии могут быть записаны в форме Гиббса, когда независимые переменные – интенсивные.

, (1.48)

а также в формах, когда переменные и используются в качестве независимых в смешанном виде.

В каждой паре интенсивная – экстенсивная переменная одна из них может быть выбрана как независимая, а вторая как сопряженная. Переход от экстенсивной к интенсивной переменной в качестве независимой, и наоборот, связан с изменением знака.

Термин – свободная энергия – введен Гельмгольцем потому, что он описывает ту часть внутренней энергии системы, которая может быть полностью превращена во внешнюю работу в процессе с одинаковыми начальной и конечной температурами. Поэтому для введенного здесь определения семантической информации из (1.45) следует, что понятие семантической информации определяет ту часть микрораспределения состояний элементов системы, от которого зависят возможности совершения внешней работы системой или над системой.

Подведенное к системе тепло может быть с помощью интегрирующего множителя – температуры приведено к форме функции состояния – энергии S, зависящей от температуры и количеств информации (распределений). Работа системы или над системой связана с распределением в виде статистической суммы как запомненного случайного выбора, то есть с информацией. Слово – семантическая подчеркивает для этой информации возможность прямого преобразования в работу.

Именно поэтому появление среди критериев синтеза информации рис. 1.3 таких, которые зависят от свободной энергии, закономерно: каждому из двух взаимосвязанных видов распределений соответствуют свои предельные случаи синтеза информации.

В вышеприведенных иллюстрациях нормировки энтропии использованы не интегралы, а суммы, так как больцмановские ячейки исходно дискретны. В адиабатических системах и процессах, несмотря на это, изменения энергии происходят строго непрерывно. Поэтому для них замена суммирования на интегрирование (с соответствующими осреднениями) требует только обычной математической корректности. В неадиабатических системах этого недостаточно. Нужно более строго определить, что такое больцмановская ячейка в шестимерном -пространстве и в 6N-мерном Г- пространстве.