Главная
»
Самолетостроение
»
Теория информационных процессов и систем
»
Энтропия непрерывных сообщений. Дифференциальная и условная энтропия.
Энтропия непрерывных сообщений. Дифференциальная и условная энтропия.
Непрерывные системы передачи информации - системы, в которых как реализации сообщения, так и реализации сигнала на конечном временном интервале
представляют собой некоторые непрерывные функции времени.
Пусть
- реализации непрерывного сообщения на входе какого-либо блока схемы связи,
- реализация выходного сообщения (сигнала),
- плотность вероятности ансамбля входных сообщений,
- плотность вероятности ансамбля выходных сообщений
Формулы для энтропии H непрерывных сообщений получаются путем обобщения формул для энтропии дискретных сообщений. Если
- интервал квантования (точность измерения), то при достаточно малом
энтропия непрерывных сообщений

где
По аналогии 
Друзья! Приглашаем вас к обсуждению. Если у вас есть своё мнение, напишите нам в комментарии.