Разлика между версии на „Ентропия на Шанън“

== Смисъл на константата C ==
 
Този път измамникът играе не на зарове, а на ези-тура. Ако нямаме информация за системата, вероятността монетата на падне на ези е равна на вероятността монетата да падне на тура, <math>P_{езиheads} = P_{тураtails} = \frac{1}{2}</math>. Ако знаем на коя страна ще падне монетата, липсата на информация е нулева. В теорията на информацията, Константата С е дефинирана така, че разликата в информацията за тези два случая да е 1, т.е.:
: <math>1 = -C(\frac{1}{2}\ln\frac{1}{2} + \frac{1}{2}\ln\frac{1}{2}) = C \times 2\ln 2</math>
: <math>C = \frac{1}{2\ln 2}</math>