Главная > Математика > Наука и теория информации
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

6. Новая информация и избыточность

Мы показали в разделе 3, что процесс чтения требует увеличения энтропии , которое больше или по крайней мере равно количеству информации , получаемому читающим. Поставим теперь следующий вопрос: должна ли эта информация рассматриваться как новая информация или она является лишь избыточностью, не несущей новой информации, поскольку она всего лишь повторяет информацию, содержащуюся в написанном документе? Этот вопрос стоит на грани философии, но мы попытаемся дать на него практический ответ. Когда некто читает книгу впервые, он, конечно, получает информацию, и это может считаться новой информацией для читателя. Если он снова читает книгу второй и третий раз, то получает только избыточность, а не новую информацию.

С абсолютной точки зрения мы можем представить себе идеального ученого, знающего все, что известно человечеству. Для этого идеального философа каждая новая книга содержит информацию. Однако другие читатели получают только избыточную информацию, так как она уже известна идеальному ученому. Это весьма нереалистическая точка зрения.

Для того чтобы сделать различие между возможными точками зрения на информацию и избыточность, связанные с чтением и печатанием копий, мы введем следующие определения:

Абсолютная информация: любая информация, доступная какому-либо человеку на Земле, причем эта информация считается только один раз, каково бы ни было число людей, знающих ее. Так, сверхсекретный документ имеет столько же информации, сколько номер газеты, содержащий то же количество букв.

Распределенная информация: произведение количества абсолютной информации на число людей, располагающих этой информацией. Второе определение представляется более реалистичным, чем, скорее философская, абсолютная информация, и эта точка зрения принята в данной главе.

Имеются, однако, проблемы, в которых можно предпочесть определение абсолютной информации, и различие между обоими видами информации следует иметь в виду.

<< Предыдущий параграф Следующий параграф >>
Оглавление