Главная » Самолетостроение » Теория информационных процессов и систем » Энтропия непрерывных сообщений. Дифференциальная и условная энтропия.

Энтропия непрерывных сообщений. Дифференциальная и условная энтропия.

         Непрерывные системы передачи информации - системы, в которых как реализации сообщения, так и реализации сигнала на конечном временном интервале image представляют собой некоторые непрерывные функции времени.

         Пусть image - реализации непрерывного сообщения на входе какого-либо блока схемы связи, image - реализация выходного сообщения (сигнала), image - плотность вероятности ансамбля входных сообщений, image - плотность вероятности ансамбля выходных сообщений

         Формулы для энтропии H непрерывных сообщений получаются путем обобщения формул для энтропии дискретных сообщений. Если image - интервал квантования (точность измерения), то при достаточно малом  энтропия непрерывных сообщений

image

где image По аналогии image


Друзья! Приглашаем вас к обсуждению. Если у вас есть своё мнение, напишите нам в комментарии.

Поделиться

Дисциплины