Размерная постоянная в определении энтропии – адиабатический инвариант системы - Введение меры информации в аксиоматическую базу механики - А.М. Хазен

Обмен энергией с окружением в любой системе ограничен наложенными на неё условиями. Эти условия можно разбить на два фундаментальных класса – адиабатические и неадиабатические системы.

Если в системе количество информации (энтропия-информация) S остается неизменным, а энергия в ней изменяется под действием сил Xi , то такая система является адиабатической.

Системы, в которых количества информации изменяются в результате взаимодействия с внешней средой, есть неадиабатические системы.

Эти определения аналогичны используемым в термодинамике. В классической термодинамике систему называют адиабатической, если она не обменивается с окружающей средой теплом, но в общем виде адиабатической является система, которая не обменивается с окружением количествами информации. Это не исключает для неё возможность совершать над внешней средой механическую работу (или внешней среде над системой). Если механическая работа совершается бесконечно медленно по отношению к характерным временам внутренних процессов, то адиабатическая система обратима. Следует подчеркнуть, что адиабатическое изменение энергии системы строго непрерывно в математическом смысле, независимо от того, рассматривается ли классическая или квантовая система.

В общем случае силы Xi могут иметь электрическую, магнитную, химическую или внутриатомную природу. Обмен энергией с окружением за счет сил Xi любой природы при бесконечно медленном протекании процессов может (как и механическая работа) не нарушать адиабатичности системы.

Примером адиабатической обратимой системы является маятник Эренфеста (рис. 1.1) [27] в виде груза на нити, длина которой изменяется бесконечно медленно по отношению к периоду его колебаний. Такую систему называют адиабатически инвариантной. Полная энергия адиабатически инвариантной системы может изменяться непрерывно.

Адиабатически инвариантная система имеет адиабатический инвариант – характерную константу, которая остается неизменной в адиабатическом обратимом процессе. Для примера маятника Эренфеста адиабатический инвариант ha есть отношение энергии колебаний маятника Е к его частоте . Для каждого конкретного макроскопического маятника такой инвариант будет иметь свою численную величину. Например, для тепловых процессов это есть постоянная Больцмана kB. Адиабатическим инвариантом является также постоянная Планка h. Множитель K в определении энтропии (1.1) есть адиабатический инвариант системы в том смысле, в котором ввел это понятие Эренфест [27].

В абстрактных вычислительных системах мера количества информации S так же задана в виде (1.1), но основание логарифмов в (1.1) принимается равным числу А символов алфавита, с помощью которого описывается информация:

S  K logА .. (1.2)

Изменение числа А не может изменить количество информации в системе. Это есть адиабатический процесс. Адиабатический инвариант в абстрактной системе должен быть равен 1. Поэтому множитель в (1.2) есть:

K  lnА. (1.3)

В зависимости от выбора А величина K определяет известные единицы информации, например, бит, для которого А  2. Следует подчеркнуть, что в вычислительных системах определение энтропии-информации в форме (1.1) часто используется в смысле, отличном от больцмановского, то есть не как характеристика максимума вероятности состояния системы. В этой книге энтропия-информация в небольцмановском смысле не рассматривается.

В общем случае для физической системы мера информации – энтропия определена только в том случае, когда определен адиабатический инвариант системы, то есть множитель K в определении энтропии-информации (1.1). Для разных систем он может иметь разную величину (не обязательно K  kB – постоянной Больцмана). Адиабатический инвариант всегда имеет конечную величину. Предельный переход K 0 при строгой постановке задач невозможен.

Неадиабатическая система (как она определена в классической термодинамике) обменивается c окружающей средой количествами тепла, что эквивалентно обмену количествами информации. В этом случае изменение энергии системы за счет взаимодействия с окружением обязательно содержит в себе изменения количества информации в системе – её энтропии.

Энтропия определена как функция состояния системы. Её изменения описываются полными дифференциалами. Обмен энтропией с окружающей средой при неадиабатических процессах происходит в формах, которые непосредственно не описываются полными дифференциалами. Поэтому то, что передается от окружающей среды к системе и наоборот (например, тепло) не есть энергия – функция состояния (изменение которой полный дифференциал в силу аксиоматического определения). Но в результате такого процесса энергия системы изменяется.

Приращения функций, не являющиеся полными дифференциалами, могут быть преобразованы в полные дифференциалы с помощью интегрирующего множителя. Таковым по аксиоматическому определению в термодинамике является температура . Как множитель она участвует в обратной форме 1/. С её помощью процесс обмена информацией с окружением может быть представлен в форме полных дифференциалов. Например, используя температуру в виде 1/как интегрирующий множитель, можно на основе изменения количества тепла Q (не являющегося полным дифференциалом) определить изменение количества информации dS – функции, изменение которой является полным дифференциалом:

dS  Q/. (1.4)

В связи с изложенным выше об энергии и её связи с количествами информации необходимо подчеркнуть элементарное, но важнейшее и многими абсолютно забываемое.

Энергия по своему аксиоматическому определению – функция состояния системы. Её изменения есть полные дифференциалы. Переменная, не являющаяся функцией состояния, не есть и не может быть энергией. Но изменения функции произвольных независимых переменных не обязательно будут полными дифференциалами. Они могут стать полными дифференциалами, если на независимые переменные наложены конкретные условия связи.

Понятия – энергия – нет и не может быть, если не сформулированы условия связи между собой независимых переменных задачи. Эти условия связи в термодинамике известны как уравнения состояния.

Энергия – функция состояния, а потому эквиваленты энергии существуют во многих задачах, которые не имеют отношения к тепловым процессам. Все математические особенности, связанные с полными дифференциалами, интегрирующими множителями, уравнениями состояния в полной мере, тождественно относятся и к нетепловым задачам – общим процессам взаимодействия энергии и информации в физических системах.

В этой работе энтропия (мера информации) и энергия понимаются именно в таком широком смысле, что отражено в формулировке начал (I  III), независящей от того, какие формы энергии, подчиняющиеся аксиоме IV, учитываются в данной задаче. Поэтому в определении энтропии (1.1) постоянная K необязательно равна постоянной Больцмана kB. Соответственно энергия может не быть классической механической энергией. В частности при описании информации на уровне взаимодействия мозга человека и окружающей среды это может быть абстрактная функция состояния.

Следует подчеркнуть ещё одну особенность информации как физической переменной. Для описания природы необходим непредставимый диапазон чисел, отличающихся на 40 – 60 порядков величины. Мера информации (1.1) потому является важнейшей переменной природы, что она описывается логарифмической функцией. В её терминах описание природы становится возможным в числовом диапазоне всего порядка 100. Поэтому зависимости, выраженные в терминах энтропии-информации, доступны сопоставимым исследованиям при любых численных масштабах процессов, характерных для Вселенной.

Методы человеческих исследований отражают возможности природы. Сами по себе величины, отличающиеся на 40 – 60 порядков, не могли бы равноправно оказывать влияние на процессы природы. Однако оно существует. Причина этого именно в решающей роли энтропии-информации для всех процессов природы, которую задаёт её логарифмический характер.

По определению (см., например, [28], [29]) мера информации при обмене информацией между людьми характеризует неопределенность, устранённую с помощью данного сообщения.

Человек устраняет неопределённость состояния путём передачи информации. На этой основе он абстрактно вычисляет количество информации в данном сообщении. Обмен информацией между объектами физики невозможен в таком смысле. В физике реально заданным свойством объектов является существующий в них беспорядок, относительно каких-то конкретных признаков элементов системы. Сама неопределённость есть мера информации как физическая переменная. Локализация элемента системы может использоваться для измерения информации как физической переменной в терминах человеческих сообщений. Поэтому информация как абстракция и информация как физическая переменная отличаются знаком. Обсуждения смысла вероятностей в связи с физическими задачами содержатся, например, в [30].