Ентропия на Шанън: Разлика между версии
Изтрито е съдържание Добавено е съдържание
Rescuing 1 sources and tagging 0 as dead.) #IABot (v2.0.8 |
м без интервал |
||
Ред 18:
:<math>S = S + \lambda(\sum_i^N P_i - 1)</math>
Търсим точките, в частната производна по <math>P_i</math> се анулира:
:<math>
или
:<math>P_i = e^{-C + \lambda \over \lambda}</math>
Ред 29:
== Връзка с ентропията ==
Както видяхме, когато ентропията (липса на информация) е максимална, всички <math>P_i</math>-та са равни на <math>\frac{1}{N}</math>. Тогава:
:<math>S = -C \sum_i^N {1 \over N} \ln {1 \over N}
:<math>S = C {1 \over N} \ln N \sum_i^N = C \ln N </math>
Ако заместим C с k<sub>B</sub> получаваме формулата на [[Лудвиг Болцман|Болцман]] за ентропията, която показва връзката между ентропията и липсата на информация и оправдава наименованието „ентропия на Шанън“ за функцията „липса на информация“.
| |||