16
Пусть система
α может принимать одно из
N состояний в
каждый
момент времени, причем каждое из состояний равновероятно. На-
пример, в
качестве системы могут выступать опыты с подбрасывани-
ем монеты (
N
= 2) или бросанием игральной кости (
N = 6).
Количество информации системы
α вычисляется по формуле,
предложенной Р. Хартли:
H
H
N
N
=
( )
ln
ln
.
α =
=
log
2
2
При
N
= 2 количество информации минимально и равно
H = 1.
Поэтому в
качестве единицы информации принимается количество
информации, связанное с двумя равновероятными состояниями
системы, например: «орел» — «решка», «ложь» — «истина». Такая еди-
ница количества информации называется
бит.
Введем
понятие вероятности. Вероятность события
A — это от-
ношение числа случаев
M, благоприятствующих событию
A, к обще-
му количеству случаев
N:
Р
M
N
=
.
Достарыңызбен бөлісу: 
