Частина тексту файла (без зображень, графіків і формул):
2. РОЗРАХУНОК ІНФОРМАЦІЙНИХ ХАРАКТЕРИСТИК ДЖЕРЕЛА НЕПЕРЕРВНИХ ПОВІДОМЛЕНЬ
Процедура формування інформаційного сигналу передбачає наступні дії:
- визначення зміни одного (або більше) параметра досліджуваного об'єкта (абообєктів);
- перетворення отриманої зміни в електричну величину (струм або напругу).
Як бачимо, вже на цьому етапі має місце відхилення сформованого інформаційного повідомлення від його абсолютного значення, що пояснюється часом спрацювання давача (пристрій, що фіксує зміни параметра). Крім неодмінно існуючих відхилень, в інформаційний сигнал додатково вводяться: власні шуми як давача, так і перетворювача сигналу в електричну величину.
Саме тому надалі мова буде йти не за абсолютно точний аналоговий сигнал Ь(£), а за його деякий еквівалент. Тобто, якщо абсолютний сигнал містить ту множину повідомлень 6(1), то його еквівалент характеризується множиною В(1), що є достатньою для
відновлення сигналу, але з відповідною правдивістю. Таким чином, оцінка достовірності еквівалентного інформаційного сигналу , визначається як максимально гранична кількість втрат абсолютного сигналу.
Підсумовуючи вище сказане, зазначимо, що та мінімальна кількість інформації, яку містить еквівалентне повідомлення В(ї) відносно повідомлення В(£), називається іпсилон-ентропією (є), що обчислюється за формулою [1]:
НЕ (В) = тіп І(В, В) = п(В) - тах п(В / В) . (2.1)
де п(В) - диференційна ентропія; п(В/В) - умовна диференційна ентропія.
Диференційна ентропія є функцією розподілу імовірності сигналу р(Ь) та дисперсії а2. Проте, для сигналів із нульовим середнім, до яких відноситься й досліджуваний сигналу, у [2] рекомендовано вважати а2, = Рь . Обчислимо диференційну ентропію для гауссового розподілу імовірності сигналу за формулою табл. 1 [2]:
п(В) = Іод 2 (аьл/2 -я -е) = Іод 2 (^2 -Рьтг -е) = Іод 2 (^/0^2 • тт • е ) = 1,516 біт/відлік. (2.2)
Для подальших розрахунків, приймається припущення - помилка, що зявляється під час відновлення сигналу на виході передавача - гауссова. Таке припущення дозволяє обчислити умовну диференційну ентропію за формулою [1]: