Главная > Математика > Наука и теория информации
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

5. Примеры проблем, выходящих за рамки данной теории

Существующая теория полностью игнорирует ценность передаваемой и обрабатываемой информации. Это обстоятельство настойчиво подчеркивалось на протяжении всей книги. Многие другие авторы недооценивали, по-видимому, важность этого ограничения, что повело ко многим недоразумениям по поводу возможностей существующей теории. Только игнорируя человеческую ценность информации мы смогли построить научную теорию информации, основанную на статистике, и была показана полезность этой теории. Существует, однако, много проблем, которые нельзя разрешить методами этой теории. Цель этого раздела состоит в том, чтобы вкратце поставить некоторые из этих вопросов и показать, что все они сводятся к одной и той же общей проблеме: как ввести в теорию элемент ценности информации.

Надобность в этом новом элементе возникает всякий раз, когда информация рассматривается как основание для предсказания и для практического применения. Сперва подытожим кратко существующее положение: положим, например, что посылаемая телеграмма закодирована двоичным кодом (0 или 1) и содержит n двоичных цифр. Если кодирование не имеет избыточности, то телеграмма содержит всего n двоичных единиц информации. Вопрос о том, имеет телеграмма значение для получателя или нет, не рассматривается.

На научной конференции в Милане в апреле 1954 г. д-р Куфиньяль (Париж) поставил следующий вопрос: после того как телеграмма послана, автор добавляет одну двоичную цифру со следующим значением:

0: все неверно; не обращайте на телеграмму внимания,

1: телеграмма правильная; можете ею воспользоваться.

С точки зрения информации это означает добавление одной двоичной единицы, так что всего получается единица вместо n. Практически же положение иное:

0 («нет») — разрушает всю ценность содержащейся в телеграмме информации,

1 («да») — попросту добавляет избыточность.

Мы можем, следовательно, сказать, что «нет» (0) несет отрицательную информацию, равную по абсолютной величине полной информации в телеграмме. С точки зрения существующей теории информация всегда положительна и никогда не является отрицательной. Здесь ясно обнаруживается различие между статистической мерой информации и практической ценностью этой информации для получателя.

Коды с самопроверкой и самоисправлением, рассмотренные в главе 6, соответствуют практическим задачам, очень сходным с рассмотренной выше. К телеграмме, содержащей n двоичных знаков, мы добавляем 0 или 1 так, чтобы число единиц было всегда четно. Приемник проверяет общее число единиц. Если оно нечетно, то может быть 1, 3, 5, ... ошибок. Если оно четно, то либо ошибок нет, либо имеется 2, 4, 6, ... ошибок. Первый случай, очевидно, соответствует сигналу «нет» в задаче Куфиньяля.

Дополнительные сигналы для проверки или исправления не добавляют никакой информации. По существующей теории эти сигналы просто добавляют избыточность. Здесь речь идет, однако, о практической ценности информации.

Вместо того чтобы разделять утверждения на истинные и ложные («да» или «нет», см. выше), мы можем условиться указывать вероятность р того, что сообщение является истинным. Выберем шкалу с значениями, и пусть число соответствует , что означает, что утверждение в среднем истинно в случаях из 8 и ложно в случаях из 8. С информационной точки зрения это означает добавление к телеграмме трех двоичных единиц информации, что дает в общем вместо n. Поскольку рассматривается ценность информации для получателя, разумно считать, что ценность выражается произведением Во многих случаях, однако, информация вовсе не представляет интереса для получателя, если вероятность ошибки превосходит некоторый установленный минимум, например ; в этом случае практическая ценность будет равна нулю для вероятностей 0, 1/8, 2/8, 3/8 и принимать некоторые возрастающие значения, когда вероятности составляют 4/8, 5/8, 6/8, 7/8, 1.

Вопрос о надежности физического наблюдения обсуждался в главе 14. Всякое физическое измерение содержит возможность ошибок. Надежность экспериментального метода была определена через вероятность ошибки, обусловленной тепловыми флуктуациями, и вероятность --правильного наблюдения. Эта задача, очень сходная с предыдущей, была дополнена предположением, что наименьшее рассматриваемое значение есть , что дает вероятность правильного наблюдения, равную 0,5.

Вычислительные машины рассматривались в главе 19, и было показано, что вычисление очень сходно с переводом, кодированием и декодированием. В лучшем случае вычисление сохраняет всю информацию, содержащуюся во входных (исходных) данных, но обычно некоторое количество информации теряется за счет приближений, вводимых вычислительной процедурой. С информационной точки зрения вычисление не добавляет никакой новой информации, а лишь повторяет уже имеющуюся информацию на другом языке и, возможно, с некоторыми потерями. Но вычисление, как и декодирование, и перевод, конечно, увеличивают практическую ценность информации и ее значение для получателя. Вопрос об информации, содержащейся в программе вычисления, является другим аспектом проблемы, до сих пор не исследованным, хотя он и был поставлен на миланской конференции.

Весьма важным для практического применения является вопрос о циркуляции информации в каналах с обратной связью, или без нее. Положительная обратная связь обладает свойствами, существенно отличными от отрицательной. По нашему определению информация есть положительная величина, которая никогда не может стать отрицательной. Следовательно, в каналах с обратной связью мы снова имеем дело не с самой информацией, а с ее ценностью. Вопрос о том, как определить ценность в такого рода задачах, остается открытым. По-видимому, единственное заключение, которое мы пока что можем сделать (и которое не имеет большого практического значения), состоит в следующем: рассмотрим рис. 20.1, на котором входной канал С, дает в среднем дв. ед. в секунду (пропускная способность ). Эта информация проходит по , и некоторая доля

возвращается обратно по цепи обратной связи. Канал должен быть в состоянии передать

так что его пропускная способность есть

и выходной канал имеет пропускную способность

Это, однако, не затрагивает хорошо известных проблем цепей с обратной связью. К задаче такого рода могли бы быть применены методы Линвилла и Зальцера, рассмотренные в главе 19.

Рис. 20.1. Схематическое представление пропускных способностей в цепи с обратной связью.

Большое число задач показывает важность обсуждения практической ценности информации для получателя. В то время как мера информации, как она определена в настоящее время, является абсолютной, ценность информации, конечно, относительна для некоторого получателя. Предполагается, что эти вопросы можно обсуждать с эмпирической точки зрения, пытаясь в каждом случае найти разумное определение ценности, а затем сравнивая различные задачи, с целью обнаружить общие свойства различных определений и выяснить, может ли быть развита теория, применимая к различным частным случаям. Такое обсуждение, вероятно, сделало бы теорию информации значительно более ценной для практических применений и могло бы открыть новые важные направления исследований.

Во всяком случае, одно непосредственно очевидно: любой критерий ценности ведет к оценке получаемой информации. Это равносильно отбору информации, имеющей определенную меру качества. Некоторая часть информации может быть признана важной и сохранена со всей ее ценностью, тогда как другая часть может считаться не имеющей ценности и

быть отброшена. Эта задача очень сходна с процессом фильтрации. Фильтр является хорошо известным в обшей теории элементом и обладает двумя важными свойствами: он необратим и он уменьшает общее количество информации. Мы можем установить следующее положение: относительная ценность информации для некоторого данного получателя меньше или равна абсолютной информации. Это уже является отправной точкой, действительной в общем случае, и задача состоит в установлении общего определения различных методов фильтрации, применяемых для оценки. относительной ценности информации.

<< Предыдущий параграф Следующий параграф >>
Оглавление