» » »

61. Энтропия непрерывных сообщений. Дифференциальная и условная энтропия.

61. Энтропия непрерывных сообщений

         Непрерывные системы передачи информации - системы, в которых как реализации сообщения, так и реализации сигнала на конечном временном интервале src=img/61-1.gif представляют собой некоторые непрерывные функции времени.

         Пусть src=img/61-2.gif - реализации непрерывного сообщения на входе какого-либо блока схемы связи, src=img/61-3.gif - реализация выходного сообщения (сигнала), src=img/61-4.gif - плотность вероятности ансамбля входных сообщений, src=img/61-5.gif - плотность вероятности ансамбля выходных сообщений

         Формулы для энтропии H непрерывных сообщений получаются путем обобщения формул для энтропии дискретных сообщений. Если src=img/61-6.gif - интервал квантования (точность измерения), то при достаточно малом  энтропия непрерывных сообщений

src=img/61-7.gif

где src=img/61-8.gif По аналогии src=img/61-9.gif


Друзья! Приглашаем вас к обсуждению. Если у вас есть своё мнение, напишите нам в комментарии.