Главная > Математика > Наука и теория информации
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

6. Условная информация

Стремясь построить равенство, Шеннон применяет понятие условной информации путем введения вероятности того, что , если уже известно, что . Мы называем условной вероятностью. Ясно, что

Условная информация есть информация, связанная с она обозначается и определяется как

Легко показать, что , так как,

раскрывая правую часть этого равенства, мы имеем из (2.30):

Объединяя теперь (2.29) и (2.32), получаем:

или

Условная информация есть информация относительно у, если уже известно. Знание представляет собой ограничение, уменьшающее информацию при выборе у. Равенство получается только тогда, когда х и у являются независимыми событиями.

<< Предыдущий параграф Следующий параграф >>
Оглавление