МІНІСТЕРСТВО ОСВІТИ І НАУКИ УКРАЇНИ
НАЦІОНАЛЬНИЙ УНІВЕРСИТЕТ “ЛЬВІВСЬКА ПОЛІТЕХНІКА”
В.І. Каркульовський, І.І. Мотика
МЕТОДИ ТА ЗАСОБИ КОМП’ЮТЕРНИХ ІНФОРМАЦІЙНИХ ТЕХНОЛОГІЙ
КОНСПЕКТ ЛЕКЦІЙ
(Частина 1)
з курсу “Методи та засоби комп’ютерних інформаційних технологій”
для студентів базового напрямку
“Комп’ютерні науки ”
Затверджено
на засіданні кафедри
Системи автоматизованого проектування
Протокол № 5 від 27.11.06
Львів –2006
Каркульовський В.І., Мотика І.І. Методи та засоби комп’ютерних інформаційних технологій: Ч.1. Конспект лекцій з курсу “Методи та засоби комп’ютерних інформаційних технологій” для студентів базового напрямку “Комп’ютерні науки”. – Львів: Видавництво Національного університету “Львівська політехніка”, 2006. – 62 с.
У конспекті лекцій розглядаються класичні математичні моделі сигналів. Наводяться відомості, які розширюють знання студентів в області застосування математичних методів в комп’ютерних інформаційних технологіях.
Стисло обговорюються методи, пов’язані із оцифровуванням сигналів – дискретизації в часі та квантування по рівню сигналу.
Призначено для студентів, що навчаються за напрямом підготовки фахівців “Комп’ютерні науки”.
Відповідальний за випуск Ткаченко С.П., канд. техн. наук., доц.
Рецензенти Жежнич П.І., канд. техн. наук., доц.
Теслюк В.М. канд. техн. наук., доц.
ЗМІСТ
Вступ ....................................................................................................... 3
РОЗДІЛ 1. СПОСОБИ ЗОБРАЖЕННЯ СИГНАЛІВ ............................ 6
1.1. Поняття сигналу i його моделі ........................................................
1.2. Форми зображення детермiнованих сигналiв ...............................
1.3. Ортогональнi зображення сигналiв ................................................
1.4. Часова форма зображення сигналу ................................................
1.5. Частотна форма зображення сигналу ............................................
РОЗДІЛ 2. СПЕКТРИ ДЕТЕРМІНОВАНИХ СИГНАЛІВ .................
2.1. Спектри періодичних сигналів .......................................................
2.2. Спектр неперіодичного сигналу .....................................................
2.3. Розподiл енергii в спектрi ................................................................
РОЗДІЛ 3. ВИПАДКОВИЙ ПРОЦЕС ЯК МОДЕЛЬ СИГНАЛУ ......
3.1. Загальна характеристика випадкових процесів як моделі сигналів
3.2. Імовірнісні характеристики випадкового процесу .......................
3.3. Стаціонарні і ергодичні випадкові процеси ..................................
3.4. Спектральне зображення випадкових сигналів ............................
3.5. Частотне зображення стаціонарних випадкових сигналів ........
РОЗДІЛ 4. ДИСКРЕТИЗАЦІЯ НЕПЕРЕРВНИХ СИГНАЛІВ ...........
4.1. Переваги цифрової форми відображення сигналів ......................
4.2. Загальна постановка задачі дискретизації ....................................
4.3. Способи відновлення неперервного сигналу ...............................
4.4. Критерії якості відновлення ............................................................
4.5. Методи дискретизації за допомогою вибірок ...............................
4.6. Рівномірна дискретизація. Теорема Котельнікова ........................
4.7. Дискретизація по критерію найбільшого відхилення ..................
4.8. Адаптивна дискретизація ............................................................
РОЗДІЛ 5. КВАНТУВАННЯ СИГНАЛІВ .............................................
5.1. Основні засади квантування сигналів ............................................
5.2. Квантування сигналів при дії завад ................................................
ВСТУП
Бурхливий розвиток комп’ютерних інформаційних технологій ставить дуже серйозні вимоги до знань студентів у цій галузі. Фахівець повинен володіти цілим комплексом методів та засобів для того, щоб розв’язати складну наукову чи технічну проблему.
Мета цього конспекту лекцій – висвітлення питань пов’язаних із математичними моделями сигналів та їх перетвореннями у форму, придатну для комп’ютерної обробки.
У першому розділі розглядаються загальні підходи до побудови моделей сигналів. Основний акцент покладається на ортогональні представлення у часовій та частотній областях.
Другий розділ присвячений розгляду властивостей спектрів періодичних та неперіодичних сигналів. Матеріал цього розділу дозволяє усвідомлено вибирати параметри каналів передачі та обробки даних.
Реально інформацію можуть нести лише випадкові сигнали. Моделям сигналів у вигляді випадкових процесів присячений третій розділ конспекту. Увага акцентується на частотному зображенні сигналів.
У четвертому розділі висвітлено питання дискретизації сигналів у часовій області. Основна увага звертається на похибки дискретизації та відновлення сигналів.
П’ятий розділ присв’ячений проблемам дискретизації по рівню сигналу (квантування сигналів). Два останні розділи висвітлюють проблему переходу від аналогової до цифрової форми сигналу, яка придатна для подальшої цифрової обробки.
Розділ 1
СПОСОБИ ЗОБРАЖЕННЯ СИГНАЛІВ
1.1. Поняття сигналу i його моделі
Сигнал в широкому розумiннi - матерiальний носiй iнформацii. При цьому вони можуть бути природними, або створюватися штучно з певною метою. Природними сигналами є, наприклад, оптичнi довколiшнього свiту, космiчне випромiнювання і т.п. Штучнi - радiолокацiйнi, еталоннi. Надалi поняття сигналу буде використовуватися в вузькому розумiннi як сигнал, який штучно створюється для передачi повiдомлень. Матерiальна основа - фiзичний об'ект або процес, який називають носiем. Носiй стає сигналом в результатi модуляцii - змiни якихось параметрiв носія.
Параметри носiя, якi мiняються в часi у вiдповiдностi з повiдомленням називаються iнформативними. Як носii використовуються рiзного роду коливання, найчастiше гармонiйнi. В технiчних системах переважно використовуються носii у виглядi електричноi напруги або струму.
В носii u(t) = сonst тiльки один iнформативний параметр - рiвень. Для гармонiйних коливань EMBED Equation.3 EMBED Equation.3 - амплiтуда, частота, фаза. Коливання подiляють на детермiнованi та випадковi. Детермiнованi точно визначенi у будь-якi моменти часу. Випадковi вiдрiзняються тим, що значення деяких параметрiв передбачити неможливо. Вони можуть розглядатися як сигнали або як завади.
Задачi пiдвищення ефективностi iнформацiйних систем пов'язанi з встановленням кiлькiсних спiввiдношень мiж основними параметрами джерела iнформацii та каналу зв'язку. Для розв’язання таких задач необхiднi вiдповiднi математичнi моделi. Модель – це вибраний спосіб опису об’єкта, процесу або явища, який відображає суттєві із точки зору поставленої задачі фактори.
Методи аналiтичного моделювання часто використовують моделi, параметри яких суперечать фiзичним властивостям реальних об'ектiв. Наприклад, перiодичнi сигнали представляються сумою безконечного числа синусоїд, якi мають безмежну протяжнiсть в часi. Слiд бути обережним з такими умовами. Сигнал принципiально є обмеженим у часі випадковим процесом. Вивчення детермiнованих коливань необхiдне по багатьох причинах. Зокрема створюеться основа для вивчення бiльш складних випадкових сигналiв.
Детерміновані сигнали мають також і самостійне значення. Вони спеціально створюються як еталони для вимірювання, налагоджування і регулювання інформаційних систем.
1.2. Форми зображення детермiнованих сигналiв
В залежності від структури інформаційних параметрів сигнали розділяють на неперервні, дискретні і неперервно-дискретні. Якщо множина можливих значень параметра утворює контініум, то сигнал вважають неперервним по даному параметру. Сигнал називають дискретним по даному параметру, якщо число значень, яке може приймати цей параметр скінчене. Сигнал неперервний по одному параметру і неперервний по іншому називають неперервно-дискретним. На рис. 1.1 наведені можливі форми зображення сигналу u(t).
EMBED Visio.Drawing.6
Рис. 1.1.
Детермінований сигнал може бути зображений:
неперервною функцією неперервного аргумента, наприклад неперервною функцією часу (рис. 1.1, а);
неперервною функцією дискретного аргумента, наприклад функцією, значення якої даються відліками тільки у певні моменти часу (рис. 1.1, б);
дискретною функцією неперервного аргумента, наприклад функцією часу, квантованою по рівню (рис. 1.1, в);
дискретною функцією дискретного аргумента, наприклад функцією, яка приймає одне із скінченої множини значень (рівнів) у певні моменти часу (рис. 1.1, г).
Розглянуті моделi сигналів у вигляді функцій часу призначенi в першу чергу для аналiзу форми сигналiв. Бажано мати таку форму зображення, яка б дозволяла полегшити задачі аналізу проходження реальних сигналiв складної форми через дослiджуванi системи. З цiею метою сигнали зображаються лінійним перетворенням елементарних (базисних) функцiй. Такий підхід особливо продуктивний при аналізі лiнiйних систем. Лінійні системи є достатньо широким класом систем і на їх основі розрообляються методи аналізу нелінійних.
При аналізі проходження крізь лінійні системи сигнали зображають в виглядi зваженоi суми базисних функцій (або iнтегралу):
EMBED Equation.3 EMBED Equation.3 , (1.1)
де EMBED Equation.3 - інтервал існування сигналу.
При вибраному базисi сигнал повнiстю визначаеться коефiцiентами EMBED Equation.3 . Така сукупнiсть чисел називаеться дискретним спектром сигналу. На iнтервалi EMBED Equation.3 вираз справедливий як для необмежених в часi сигналiв, так i для сигналiв скiнченоi тривалостi. Однак за межами iнтервалу EMBED Equation.3 сигнал скiнченоi тривалостi не рiвний нулю (перiодично повторюеться). Тому, коли для обмеженого в часi cигналу необхідно отримати зображення, справедливе для будь-якого моменту часу, використовується інтеграл:
EMBED Equation.3 , (1.2)
де EMBED Equation.3 - базисна функція із неперервно змінним параметром EMBED Equation.3 .
В цьому випадку спектр є суцiльний і зображається спектральною густиною EMBED Equation.3 . Її розмірність обернена до розмірності EMBED Equation.3 .
Сукупність методів зображення сигналів у вигляді (1.1) і (1.2) називають узагальненою спектральною теорією сигналів. В рамках лінійної теорії спектри є зручною аналітичною формою зображення сигналів.
Для аналізу інформаційних систем базисні функції EMBED Equation.3 повинні задовільняти таким умовам:
мати прості аналітичні вирази;
забезпечувати швидку збiжнiсть ряду (1.1);
дозволяти просто обчислювати коефіцієнти розкладу EMBED Equation.3 ;
при синтезі сигналів забезпечувати просту технiчну реалiзацiю.
Система ортогональних функцій переважно є зліченною множиною.
1.3. Ортогональнi зображення сигналiв
Спектральнi складовi значно легше обчислюються в ортогональних базисах.
Систему функцій EMBED Equation.3 називають ортогональною на відрізку EMBED Equation.3 , якщо для всіх EMBED Equation.3 , EMBED Equation.3 окрім випадку EMBED Equation.3 виконується умова
EMBED Equation.3 (1.3)
Ця система функцій буде ортонормованою, якщо для всіх EMBED Equation.3 вірне співвідношення
EMBED Equation.3 . (1.4)
Якщо співвідношення (1.4) не виконується і
EMBED Equation.3 , (1.5)
то систему можна нормувати помноживши функції EMBED Equation.3 на EMBED Equation.3 .
Визначимо коефіцієнти EMBED Equation.3 при зображенні сигналу сукупністю ортонормованих функцій у вигляді
EMBED Equation.3 , (1.6)
припускаючи, що інтервал EMBED Equation.3 лежить всередині відрізка ортогональності EMBED Equation.3 .
Праву і ліву частини рівняння (1.6) множимо на EMBED Equation.3 і інтегруємо на інтервалі EMBED Equation.3 :
EMBED Equation.3 . (1.7)
Оскільки вірна умова (1.3) всі інтеграли у правій частині виразу (1.7) при EMBED Equation.3 будуть рівними 0. При EMBED Equation.3 у відповідності із (1.). Із цього випливає, що
EMBED Equation.3 (1.8)
У теоретичних дослідженнях звичайно використовують повні системи ортогональних функцій, які забезпечують як завгодно малу різницю між неперервною функцією і її рядом при необмеженому збільшенні кількості його членів. різницю оцінюють по квадратичному критерію
EMBED Equation.3 (1.9)
Співвідношення (1.6) часто називають узагальненим рядом Фур’є, а коефіцієнти EMBED Equation.3 - узагальненими коефіцієнтами Фур’є, оскільки вперше такий метод визначення коефіцієнтів EMBED Equation.3 був застосований для розкладу в ряд Фур’є.
1.4. Часова форма зображення сигналу
Складна функція часу може бути зображена розкладом, при якому як базисні функції використовуються одиничні імпульсні функції - дельта-функції. Математичний опис такій функцій задається співвідношеннями:
EMBED Equation.3 , (1.10)
EMBED Equation.3 ,
де - EMBED Equation.3 - дельта-функція, відмінна від нуля на початку координат (при t = 0).
Для більш загального випадку, коли дельта-функція відрізняється від нуля у момент часу EMBED Equation.3 , маємо
EMBED Equation.3 , (1.11)
EMBED Equation.3 .
Така математична модель відповідає абстрактному імпульсу нескінченно малої тривалості і безмежної величини. За допомогою дельта-функції можна виразити значення реального сигналу в конкретний момент часу EMBED Equation.3 :
EMBED Equation.3 . (1.12)
Рівність (1.12) справедлива для будь-якого біжучого моменту часу t. Замінивши EMBED Equation.3 на t і прийнявши як змінну інтегрування EMBED Equation.3 , отримаємо:
EMBED Equation.3 (1.13)
Таким чином, функція u(t) виражена у вигляді послідовності імпульсів нескінченно малої тривалості. Ортогональность сукупності таких імпульсів очевидна, оскільки вони не перекриваються в часі.
Розклад (1.13) має велике значення в теорії лінійних систем, оскільки, встановивши реакцію системи на елементарний вхідний сигнал у вигляді дельта-функції (імпульсну перехідну функцію), можна легко визначити реакцію системи на довільний вхідний сигнал як суперпозицію реакцій на нескінченну послідовність зміщених дельта-імпульсів з “площами”, рівними відповідним значенням вхідного сигналу.
1.5. Частотна форма зображення сигналу
Розглянемо, які функції доцільно вибирати як базисні при аналізі лінійних систем із постійними параметрами. При дослідженні таких систем розв’язки завжди містять комплексні експоненціальні функції часу. Детерміновані сигнали, які описуються експоненціальними функціями часу, при проходженні через інваріантні в часі лінійні системи залишаються лінійними комбінаціями експонент, що є наслідком інваріантності класу експоненціальних функцій щодо операцій диференціювання і інтегрування.
Широко використовуються зображення детермінованих сигналів із застосуванням базисних функції EMBED Equation.3 як при EMBED Equation.3 (перетворення Фур’є), так і при EMBED Equation.3 (перетворення Лапласа).
Дотепер ми не торкалися фізичної інтерпретації базисних функції. Для чисто математичних перетворень вона не обов'язкова, Проте така інтерпретація має безумовні переваги, оскільки дозволяє глибше проникнути у фізичну суть явищ, які виникають в системах при проходженні сигналів.
Використовування експоненціальных базисних функції в перетворенні Фур’є комплексно-зв'язаними парами (із додатнім і від’ємним параметром EMBED Equation.3 ) дозволяє відповідно до формул Ейлера
EMBED Equation.3 (1.14)
зобразити складний детермінований сигнал у вигляді суми гармонійних складових. Оскільки параметр EMBED Equation.3 у цьому випадку має сенс кругової частоти, результат такого перетворення називають частотною формою зображення сигналу.
У частотному виді можуть зображатися як періодичні, так і неперіодичні детерміновані сигнали. Періодичних сигналів, природно, не існує, оскільки будь-який реальний сигнал має початок і кінець. Проте при аналізі сигналів в усталеному режимі можна виходити з припущення, що вони існують нескінченно довго і прийняти як математичну модель таких сигналів періодичну функцію часу. Далі розглядається зображення таких функції як у вигляді суми експоненціальних складових, так і перетворенням їх в суми тригонометричних функцій.
Розділ 2
СПЕКТРИ ДЕТЕРМІНОВАНИХ СИГНАЛІВ
2.1. Спектри періодичних сигналів
Розглянемо сигнал описаний довільною періодичною функцією u(t), яка задовільняє умовам Діріхле (рис. 2.1).
Теорема Діріхле. Якщо функція u(t) періоду Т кусково монотонна на відрізку EMBED Equation.3 і має на ньому не більше, ніж скінченне число точок розриву, тобто виконані так звані умови Діріхле, то її тригонометричний ряд Фур’є збігається до u(t) в кожній точці неперервності та до EMBED Equation.3 в кожній точці розриву.
Практично для всіх сигналів, які зустрічаються в інформаційних системах, ряди Фур’є збігаються і спеціальних досліджень не потребують.
EMBED Visio.Drawing.6
Рис. 2.1.
Візьмемо в якості ортонормованої системи функцій сукупність тригонометричних функцій кратних аргументів:
EMBED Equation.3 (2.1)
По формулах (1.3, 1.4) легко перевiрити ортонормованiсть цієї системи на відрізку Т. Множник 2/Т звичайно вiдносять до коефiцiентiв розкладу i ряд записують у виглядi
EMBED Equation.3 . (2.2)
При такій формі запису коефiцiенти обчислюються за формулами:
EMBED Equation.3 . (2.3)
Тут і надалі EMBED Equation.3 позначено через EMBED Equation.3 .
Ряд (2.2) відображає коливання у вигляді суми постійної складової EMBED Equation.3 і косинусоїдальних і синусоїдальних коливань із амплітудами EMBED Equation.3 . Ці коливання називають відповідно першою, другою і подальшими гармоніками. Найнижча частота коливань рівна EMBED Equation.3 .
Часто віддають перевагу іншій формі запису ряду (2.2):
EMBED Equation.3 . (2.4)
При цьому коливання u(t) зображається у вигляді тільки косинусоїдальних гармонік із амплітудами EMBED Equation.3 і початковими фазами EMBED Equation.3 . Для визначення амплітуд і початкових фаз гармонік об'єднаємо у формулі (2.2) попарно члени із косинусами і синусами:
EMBED Equation.3 .
EMBED Equation.3 Розкриваючи дужки у правій частині цього виразу і прирівнюючи коефіцієнти при синусах і сосинусах, отримаємо, що:
EMBED Equation.3
звiдки
EMBED Equation.3 (2.5)
Практично зручнiше застосовувати ряд Фур'е, записаний в комплекснiй формi.
Скористаемося формулою Ейлера
EMBED Equation.3 .
Покладемо EMBED Equation.3 i позначимо
EMBED Equation.3 , (2.6)
Цю величину назовемо комплексною амплiтудою k-ї гармоніки. Вона містить дані і про амплітуду і про початкову фазу k-ї гармоніки. Тодi ряд можна записати у виглядi
EMBED Equation.3 (2.7)
де: EMBED Equation.3 , тобто комплексно спряжена із EMBED Equation.3 величина.
Комплексну амплітуду EMBED Equation.3 можна обчислити безпосередньо по даному u(t). Дійсно
EMBED Equation.3 .
Пiдставляючи сюди вирази для коефiцiентiв із (2.7) та об'еднуючи iнтеграли, отримаемо:
EMBED Equation.3 . (2.8)
Формули (2.7) і (2.8) називають парою перетворень Фур'е. Перша дозволяе знайти u(t) по спектру, друга - дозволяе знайти спектр, тобто гармонiйнi складовi, якi в сумi утворюють u(t). Формулу (1) можна представити також у виглядi:
EMBED Equation.3 (2.9)
Сукупність амплітуд і відповідних частот гармонік прийнято називати амплітудно-частотним спектром. Сукупність початкових фаз і відповідних частот гармонік називають фазо-частотним спектром. Спектри амплітуд і фаз однозначно визначають сигнал. Однак для багатьох практичних задач достатньо обмежитися розглядом лише спектру амплітуд.
На рис. 2.1 наведені графічні зображення спектру амплітуд і спектру фаз періодичного сигналу. Окремі спектральні складові у графічному зображенні спектру амплітуд називаються спектральними лініями.
EMBED Visio.Drawing.6
Рис. 2.2.
Характерною особливістю спектру періодичного сигналу є його дискретність. Відстань між сусідніми спектральними лініями однакова і рівна частоті основної гармоніки EMBED Equation.3 .
2.2. Спектр неперіодичного сигналу
Будь-який неперіодичний сигнал можна розглялати як періодичний, період зміни якого рівний безмежності.
Реальний сигнал обмежений у часі і має скінченну енергію. Функції, які відображають реальні сигнали, задовільняють умовам Діріхле і абсолютно інтегровані, тобто
EMBED Equation.3 , (2.10)
де М – скінченна величина.
Iмпульсне коливання u(t) також можна виразити рядом Фур'е, якщо уявити собi його перiодичним. Однак вираз буде справедливий тiльки на вiдрiзку iснування u(t).
Нехай даний імпульс u(t) (рис.2.3, а). Утворимо уявно послiдовнiсть s(t) з великим перiодом Т (рис. 2.3, б). Тоді
EMBED Equation.3 , (2.11)
EMBED Visio.Drawing.6
Рис.2.3.
Періодичну послідовність s(t) розкладемо в ряд Фур'е та по формулі (2.8) обчислимо комплекснi амплiтуди EMBED Equation.3 .Позначивши EMBED Equation.3 , отримаємо
EMBED Equation.3 , (2.12)
EMBED Equation.3 . (2.13)
Різниця між спектральними лініями послідовності s(t) становить
EMBED Equation.3 . (2.14)
При EMBED Equation.3 s(t) переходить в u(t), частота EMBED Equation.3 зменшується до нескінченно малої EMBED Equation.3 , а EMBED Equation.3 переходить в поточну частоту EMBED Equation.3 . Замінивши сумування iнтегралом, знайдемо
EMBED Equation.3 .
Позначивши інтеграл у квадратних дужках EMBED Equation.3 , отримаємо формули для прямого і оберненого інтегрального перетворення Фур’є:
EMBED Equation.3 , (2.15)
EMBED Equation.3 . (2.16)
Величину EMBED Equation.3 називають комплексною спектральною густиною, спектральною функцiею, або спектральною характеристикою. Вона має розмірність [амплітуда/частота]. На кожній конкретній частоті амплітуда відповідної складової рівна нулю.
Iнтеграл Фур'е визначае iмпульс у видi безмежноi суми безмежно малих складових, розмiщених на всiх частотах. На цiй пiдставi говорять про суцiльний спектр iмпульсу.
Спектральна функцiя не залежить вiд t, i є комплексною функцiею частоти. Вид спектральноi функцii залежить тiльки вiд форми iмпульсу. Для парних функцiй спектральна функцiя дiйсна, а для непарних чисто уявна.
2.3. Розподiл енергii в спектрi
Розглянемо розподіл потужності в спектрі періодичного сигналу. Для цього припустимо, що сигнал є складною періодичною функцією часу з періодом зміни Т. Приймемо по означенню, що середня потужнність сигналу визначається з виразу
EMBED Equation.3 . (2.17)
Якщо сигнал є напругою u(t), то вираз (2.17) дає середню потужність, яка виділяється на резисторі R величиною 1 Ом
Відобразивши u(t) рядом Фур’є, отримаємо наступний вираз для середньої потужності сигналу:
EMBED Equation.3
EMBED Equation.3
EMBED Equation.3
EMBED Equation.3 . (2.18)
Таким чином, середня потужність складного періодичного сигналу рівна сумі середніх потужностей окремих гармонік і його постійної складової.
Розглянемо тепер розподіл потужності в спектрі неперіодичного сигналу.
Енергія, що виділяється сигналом в резисторі в один Ом, визначається виразом
EMBED Equation.3 (2.19)
Для визначення розподілу енергії по спектру неперіодичного сигналу виразимо енергію W через модуль спектральної густини сигналу EMBED Equation.3 .
Квадрат модуля спектральної густини можна представити у вигляді
EMBED Equation.3
де EMBED Equation.3 - комплексно-спряжена функція до спектральної густини EMBED Equation.3 . Згідно (2.15)
EMBED Equation.3
Інтеграл від квадрата модуля спектральної густини
EMBED Equation.3 (2.20)
Змінивши в (2.20) порядок інтегрування, отримаємо
EMBED Equation.3
Таким чином, енергія сигналу
EMBED Equation.3 (2.21)
Вираз (2.21), який отримав назву рівності Парсеваля, показує, що енергія сигналу може бути представлена у вигляді суми нескінченно малих доданків EMBED Equation.3 , відповідних нескінченно малим ділянкам частотного спектру. Вираз EMBED Equation.3 є енергією, що міститься в спектральних складових сигналу, розташованих в смузі частот EMBED Equation.3 в околі частоти EMBED Equation.3 .
Таким чином, квадрат модуля спектральної густини характеризує розподіл по спектру енергії сигналу.
Якщо задана енергія сигналу EMBED Equation.3 в певній смузі частот EMBED Equation.3 в околі частоти EMBED Equation.3 , то модуль спектральної густини в точці EMBED Equation.3 може бути знайдений з наближеної рівності
EMBED Equation.3 . (2.22)
Ця наближена рівність є основою для експериментального дослідження спектрів сигналів.
Розділ 3
ВИПАДКОВИЙ ПРОЦЕС ЯК МОДЕЛЬ СИГНАЛУ
3.1. Загальна характеристика випадкових процесів як моделі сигналів
Розглянуті математичні моделі детермінованих сигналів були відомими функціями часу. Їх використовування дозволяє успішно вирішувати задачі, пов'язані з визначенням реакцій конкретних систем на задані вхідні сигнали. Випадкові складові, які завжди мають місце в реальному вхідному сигналі, вважають при цьому малими і не беруть до уваги.
Проте єдина точно визначена в часі функція не може служити математичною моделлю сигналу при передачі і перетворенні інформації. Оскільки отримання інформації пов'язано з усуненням апріорної невизначеності початкових станів, однозначна функція часу тільки тоді нестиме інформацію, коли вона з певною вірогідністю вибрана із множини можливих функцій. Тому як модель сигналу використовується випадковий процес. Кожна вибрана детермінована функція розглядається як реалізація цього випадкового процесу.
Необхідність застосування статистичних методів дослідження диктується і тим, що в більшості практично важливих випадків нехтування дією завади в процесах передачі і перетворення інформації неприпустиме. Вважається, що дія завади на корисний сигнал виявляється в непередбачуваних перекрученнях його форми. Математична модель завади відображається також у вигляді випадкового процесу, що характеризується параметрами, визначеними на основі експериментального дослідження. Властивості імовірності завади, як правило, відмінні від властивостей корисного сигналу, що і лежить в основі методів їх розділення.
Враховуючи, що всі фундаментальні висновки теорії інформації базуються на вказаному статистичному підході при описі сигналів і завад, уточнимо основні характеристики випадкового процесу як моделі сигналу.
Під випадковим (стохастичним) процесом розуміють таку випадкову функцію часу u(t), значення якої в кожний момент часу випадкові. Конкретний вид випадкового процесу, зареєстрований в певному досліді, називають реалізацією випадкового процесу. Точно передбачити, якою буде реалізація в черговому досліді, принципіально неможливо. Можуть бути визначені лише статистичні дані, що характеризують всю множину можливих реалізацій, яку називають ансамблем. Цінність таких моделей сигналів в тому, що з'являється можливість судити про поведінку інформаційної системи не по відношенню до конкретної реалізації, а по відношенню до всього ансамблю можливих реалізацій.
Основними ознаками, по яких класифікуються випадкові процеси, є; простір станів, часовий параметр і статистична залежність між випадковими величинами EMBED Equation.3 в різні моменти часу EMBED Equation.3 .
Простором станів називають множину можливих значень випадкової величини EMBED Equation.3 . Випадковий процес, у якого множина станів складає континіум, а зміни станів можливі в будь-які моменти часу, називають неперервним випадковим процесом. Якщо ж зміни станів допускаються лише в скінчнному або зліченному числі моментів часу, то говорять про неперервну випадкову послідовність.
Випадковий процес із скінченною множиною станів, які можуть змінюватися в довільні моменти часу, називають дискретним випадковим процесом. Якщо ж зміни станів можливі тільки в скінченному або зліченному числі моментів часу, то говорять про дискретні випадкові послідовності.
Оскільки в сучасних інформаційних системах перевага віддається цифровим методам передачі і перетворення інформації, то неперервні сигнали з давачів, як правило, перетворюються в дискретні, які описуються дискретними випадковими послідовностями. Питання такого перетворення розглянуті в розділі 4.
3.2. Імовірнісні характеристики випадкового процесу
Відповідно до визначення випадковий процес u(t) може бути описаний системою N, як правило, залежних випадкових величин EMBED Equation.3 ..., EMBED Equation.3 ..., EMBED Equation.3 узятих в різні моменти часу EMBED Equation.3 . При необмеженому збільшенні числа N така система еквівалентна даному випадковому процесу u(t).
Вичерпною характеристикою вказаної системи є N-вимірна густина імвірності EMBED Equation.3 . Вона дозволяє обчислити імовірність EMBED Equation.3 реалізації, значення якої в моменти часу EMBED Equation.3 знаходяться відповідно в інтервалах EMBED Equation.3 , де EMBED Equation.3 - значення, які приймає випадкова величина EMBED Equation.3 .
Якщо EMBED Equation.3 вибрані достатньо малими, то справедливо співвідношення
EMBED Equation.3 .
Отримання N-вимірної густини імовірності на основі експерименту передбачає статистичну обробку реалізацій, отриманих одночасно від великого числа ідентичних джерел даного випадкового процесу. При великих N - це надзвичайно трудомістка і дорога справа, а подальше використання результатів пов’язане із істотними математичними труднощами.
На практиці в такому докладному описі немає необхідності. Звичайно обмежуються одно- або двовимірною густиною імовірності.
Одновимірна густина імовірності EMBED Equation.3 випадкового процесу u(t) характеризує розподіл однієї випадкової величини EMBED Equation.3 , узятої в довільний момент часу EMBED Equation.3 . В ній не знаходить віддзеркалення залежність випадкових величин в різні моменти часу.
Двовимірна густина імовірності EMBED Equation.3 дозволяє визначити імовірність сумісної реалізації будь-яких двох значень випадкових величин EMBED Equation.3 в довільні моменти часу EMBED Equation.3 і, отже, оцінити динаміку розвитку процесу. Одновимірну густину вірогідності випадкового процесу u(t) можна отримати з двовимірної густини, скориставшися співвідношенням
EMBED Equation.3 (3.1)
Використовування густини імовірності навіть низьких порядків в практичних застосуваннях часто приводить до невиправданих ускладнень. В більшості випадків виявляється достатньо знання найпростіших характеристик випадкового процесу, аналогічних числовим характеристикам випадкових величин. Найпоширенішими з них є моментні функції перших двох порядків: математичне очікування і дисперсія, а також кореляційна функція.
Математичним очікуванням випадкового процесу u(t) називають невипадкову функцію часу EMBED Equation.3 , яка при будь-якому аргументі EMBED Equation.3 рівна середньому значенню випадкової величини EMBED Equation.3 по всій множині можливих реалізацій:
EMBED Equation.3 , (3.2)
Ступінь розкиду випадкових значень процесу EMBED Equation.3 від свого середнього значення EMBED Equation.3 для кожного u характеризується дисперсією EMBED Equation.3 :
EMBED Equation.3 , (3.3)
де EMBED Equation.3 - центрована випадкова величина.
Дисперсія EMBED Equation.3 в кожний момент часу EMBED Equation.3 рівна квадрату середнеквадратичного відхилення EMBED Equation.3 :
EMBED Equation.3 (3.4)
Випадкові процеси можуть мати однакові математичні очікування і дисперсії, проте різко розрізнятися по швидкості змін своїх значень в часі.
Для оцінки ступеня статистичної залежності миттєвих значень процесу u(t) в довільні моменти часу EMBED Equation.3 і EMBED Equation.3 використовується невипадкова функція аргументів EMBED Equation.3 , яку називють автокореляційною або просто кореляційною функцією.
При конкретних аргументах EMBED Equation.3 і EMBED Equation.3 вона рівна кореляційному моменту значень процесу EMBED Equation.3 і EMBED Equation.3 :
EMBED Equation.3 (3.5)
Через двовимірну густину імовірності вираз (3.5) представляється у вигляді
EMBED Equation.3 (3.6)
Симетричність цієї формули щодо аргументів приводить до рівності
EMBED Equation.3 (3.7)
Із порівняння (3.3) і (3.4) випливає, що при довільному EMBED Equation.3 автокореляційна функція вироджується в дисперсію:
EMBED Equation.3 (3.8)
Отже, дисперсію випадкового процесу можна розглядати як часткове значення автокореляційної функції.
Аналогічно встановлюється міра зв'язку між двома випадковими процесами u(t) і v(t). Вона називається функцією взаємної кореляції:
EMBED Equation.3 (3.9)
Для порівняння різних випадкових процесів замість кореляційної функції зручно користуватися нормованою функцією автокореляції:
EMBED Equation.3 (3.10)
3.3. Стаціонарні і ергодичні випадкові процеси
Випадкові процеси розрізняються по ступеню однорідності протікання їх в часі. В загальному випадку процес може мати певну тенденцію розвитку і характеристики, залежні від початку відліку часу. Такі випадкові процеси називаються нестаціонарними.
Для опису сигналу математична модель у вигляді нестаціонарного випадкового процесу підходить найкращим чином, але неконструктивна через свою надмірну складність.
Тому дуже часто вводять припущення про стаціонарність випадкового процесу, щодозволяє значно спростити математичний апарат досліджень.
Випадковий процес називають стаціонарним у вузькому сенсі, якщо густини розподілу імовірностей не залежать від початку відліку часу, тобто справедливе співвідношення
EMBED Equation.3 =
= EMBED Equation.3 (3.11)
де EMBED Equation.3 - випадкова величина, що відображає значення процесу у момент часу EMBED Equation.3 ( EMBED Equation.3 - довільне число).
Інакше кажучи, стаціонарність процесу припускає його існування і статистичну однорідність у всьому діапазоні часу від EMBED Equation.3 до EMBED Equation.3 .
Таке припущення суперечить фізичним властивостям реальних сигналів, зокрема тому, що будь-який реальний сигнал існує лише на протязі скінченного відрізку часу. Проте аналогічно сталим детермінованим процесам випадкові процеси, що протікають в сталому режимі системи за незмінних зовнішніх умов на певних відрізках часу, з певним наближенням можна розглядати як стаціонарні.
При рішенні багатьох технічних задач йдуть на подальше спрощення моделі, розглядаючи випадковий процес стаціонарним в широкому сенсі. Процес u(t) прийнято називати стаціонарним в широкому сенсі, якщо виконується умова постійності математичного очікування і дисперсії, а кореляційна функція не залежить від початку відліку часу і є функцією тільки одного аргументу EMBED Equation.3 , тобто
EMBED Equation.3 (3.12)
Оскільки умова постійності дисперсії є часковим випадком вимоги до кореляційної функції при EMBED Equation.3 :
EMBED Equation.3
то виконання співвідношень (3.12) достатньо, щоб розглядати випадковий процес u(f) як стаціонарний.
Будь-який стаціонарний випадковий процес є стаціонарним в широкому сенсі. Надалі, якщо це не обумовлено особливо, стаціонарність розглядатимемо в широкому сенсі.
Випадкові процеси, які спостерігаються в стійко працюючих реальних системах, мають скінченний час кореляції. Тому для стаціонарних процесів, що представляють практичний інтерес, справедливе співвідношення:
EMBED Equation.3 . (3.13)
Якщо для випадкового процесу рівності (3.12) не витримуються, але на інтервалі часу що цікавить нас зміною вказаних параметрів можна нехтувати, його називають квазістаціонарним.
Серед стаціонарних випадкових процесів багато таких, що задовольняють властивості ергодичності. Вона виявляється в тому, що кожна реалізація випадкового процесу достатньої тривалості несе практично повну інформацію про властивості всього ансамблю реалізацій, що дозволяє істотно спростити процедуру визначення статистичних характеристик, замінюючи усереднювання значень по ансамблю реалізацій усередненням значень однієї реалізації за тривалий інтервал часу.
Отже, для стаціонарних ергодичних процесів справедливі співвідношення
EMBED Equation.3 , (3.14)
EMBED Equation.3 (3.15)
EMBED Equation.3 (3.16)
де u(f) - конкретна реалізація випадкового процесу.
Результати дослідження випадкових процесів в їх часовому зображенні, тобто із використанням формул (3.14 – 3.15), лежать в основі кореляційної теорії сигналів.
Для полегшення практичного визначення кореляційних функцій у відповідності з (3.16) серійно випускаються спеціальні обчислювальні пристрої - корелометри (корелятори).
3.4. Спектральне зображення випадкових сигналів
В розділі 1 була показана ефективність представлення детермінованих сигналів сукупністю елементарних базисних сигналів для полегшення аналізу їх проходження через лінійні системи. Аналогічний підхід може бути використаний і у випадку сигналів, які є випадковими процесами.
Розглянемо випадковий процес EMBED Equation.3 ), що має математичне очікування EMBED Equation.3 . Відповідний центрований випадковий процес EMBED Equation.3 характеризується у будь-який момент часу EMBED Equation.3 центрованою випадковою величиною EMBED Equation.3 :
EMBED Equation.3 . (3.17)
Центрований випадковий процес EMBED Equation.3 можна виразити у вигляді скінченної або нескінченної суми ортогональних складових, кожна з яких є невипадковою базисною функцією EMBED Equation.3 ) із коефіцієнтом EMBED Equation.3 , що є випадковою величиною. В результаті маємо розклад центрованого випадкового процесу EMBED Equation.3 :
EMBED Equation.3 . (3.18)
Випадкові величини EMBED Equation.3 називаються коефіцієнтами розкладу. В загальному випадку вони статистично залежні і цей зв'язок задається матрицею коефіцієнтів кореляції EMBED Equation.3 . Математичні очікування коефіцієнтів розкладу рівні нулю. Невипадкові базисні функції прийнято називати координатними функціями.
Для конкретної реалізації коефіцієнти розкладу є дійсними величинами і визначаються по формулі
EMBED Equation.3 . (3.19)
Припустивши, що EMBED Equation.3 , детерміновану функцію EMBED Equation.3 в (3.16) на інтервалі EMBED Equation.3 також можна розкласти по функціях EMBED Equation.3 зобразивши у вигляді:
EMBED Equation.3 , (3.20)
EMBED Equation.3 . (3.21)
Підставляючи (3.20) і (3.21) в (3.17) для випадкового процесу u(t) з відмінним від нуля середнім, отримаємо
EMBED Equation.3 . (3.22)
Вираз випадкового процесу у вигляді (3.22) дозволяє істотно спростити його лінійні перетворення, оскільки вони зводяться до перетворень детермінованих функцій EMBED Equation.3 , а коефіцієнти розкладу, що є випадковими величинами, залишаються незмінними.
Щоб визначити вимоги до координатних функцій, розглянемо кореляційну функцію процесу EMBED Equation.3 , задану розкладом
EMBED Equation.3
Оскільки
EMBED Equation.3
то
EMBED Equation.3 (3.23)
Співвідношення (3.23) стає значно простішим, якщо коефіцієнти EMBED Equation.3 некорельовані ( EMBED Equation.3 при EMBED Equation.3 EMBED Equation.3 при EMBED Equation.3 ):
EMBED Equation.3 . (3.24)
Зокрема, при EMBED Equation.3 отримаємо дисперсію випадкового процесу u(t):
EMBED Equation.3 . (3.25)
Тому доцільно вибирати такі координатні функції, які забезпечують некорельованість випадкових величин EMBED Equation.3 . Розклад (3.20-3.22...