Энтропия — это мера неопределенности, измеряется в битах.

Это не хаос и не беспорядок, и тем более в слове энтропия нет ничего плохого.

Информация — это снятая неопределенность. Допустим, мы кинули на стол 100 монет. Пока мы не посмотрим, как выпали монетки, имеем 100 бит энтропии — неопределенности выпадения орла или решки. Когда мы посмотрим, как выпали 30 монет, то получим 30 бит информации, при этом оставшаяся энтропия уменьшится до 70 бит. Но только для нас. Для всех остальных, кто не видел стол, на нём продолжает содержаться 100 бит энтропии. Если мы забудем полученные 30 бит информации, то для нас энтропия снова возрастет на эти 30 бит.

Информацию всегда можно получать только из энтропии, снимая неопределенность. Поэтому энтропия системы — это максимальное количество информации, которое можно получить, измеряя эту систему. Можно сказать, что физическая энтропия — это информация, из которой состоит реальность.

Термодинамическая энтропия — это мера неопределенности распределения энергии по степеням свободы, переводится в биты по формуле 1 Дж/К ≈ 1,045 × 10²³ бит.

#Энтропия@entropians
#Просто@entropians