МІНІСТЕРСТВО ОСВІТИ І НАУКИ УКРАЇНИ
НАЦІОНАЛЬНИЙ УНІВЕРСИТЕТ “ЛЬВІВСЬКА ПОЛІТЕХНІКА”
В.І. Каркульовський, І.І. Мотика
МЕТОДИ ТА ЗАСОБИ КОМП’ЮТЕРНИХ ІНФОРМАЦІЙНИХ ТЕХНОЛОГІЙ
КОНСПЕКТ ЛЕКЦІЙ
(Частина 1)
з курсу “Методи та засоби комп’ютерних інформаційних технологій”
для студентів базового напрямку
“Комп’ютерні науки ”
Затверджено
на засіданні кафедри
Системи автоматизованого проектування
Протокол № 5 від 27.11.06
Львів –2006
Каркульовський В.І., Мотика І.І. Методи та засоби комп’ютерних інформаційних технологій: Ч.1. Конспект лекцій з курсу “Методи та засоби комп’ютерних інформаційних технологій” для студентів базового напрямку “Комп’ютерні науки”. – Львів: Видавництво Національного університету “Львівська політехніка”, 2006. – 64 с.
У конспекті лекцій розглядаються класичні математичні моделі сигналів. Наводяться відомості, які розширюють знання студентів в області застосування математичних методів в комп’ютерних інформаційних технологіях.
Стисло обговорюються методи, пов’язані із оцифровуванням сигналів – дискретизації в часі та квантування по рівню сигналу.
Призначено для студентів, що навчаються за напрямом підготовки фахівців “Комп’ютерні науки”.
Відповідальний за випуск Ткаченко С.П., канд. техн. наук., доц.
Рецензенти Жежнич П.І., канд. техн. наук., доц.
Теслюк В.М. канд. техн. наук., доц.
ЗМІСТ
Вступ .......................................................................................................... 3
РОЗДІЛ 1. СПОСОБИ ЗОБРАЖЕННЯ СИГНАЛІВ ............................ 6
1.1. Поняття сигналу i його моделі ........................................................
1.2. Форми зображення детермiнованих сигналiв ...............................
1.3. Ортогональнi зображення сигналiв ................................................
1.4. Часова форма зображення сигналу ................................................
1.5. Частотна форма зображення сигналу ............................................
РОЗДІЛ 2. СПЕКТРИ ДЕТЕРМІНОВАНИХ СИГНАЛІВ .................
2.1. Спектри періодичних сигналів .......................................................
2.2. Спектр неперіодичного сигналу .....................................................
2.3. Розподiл енергii в спектрi ................................................................
РОЗДІЛ 3. ВИПАДКОВИЙ ПРОЦЕС ЯК МОДЕЛЬ СИГНАЛУ ......
3.1. Загальна характеристика випадкових процесів як моделі сигналів
3.2. Імовірнісні характеристики випадкового процесу .......................
3.3. Стаціонарні і ергодичні випадкові процеси ..................................
3.4. Спектральне зображення випадкових сигналів ............................
3.5. Частотне зображення стаціонарних випадкових сигналів ........
РОЗДІЛ 4. ДИСКРЕТИЗАЦІЯ НЕПЕРЕРВНИХ СИГНАЛІВ ...........
4.1. Переваги цифрової форми відображення сигналів ......................
4.2. Загальна постановка дискретизації ....................................
4.3. Способи відновлення неперервного сигналу ...............................
4.4. Критерії якості відновлення ............................................................
4.5. Методи дискретизації за допомогою вибірок ...............................
4.6. Рівномірна дискретизація. Теорема Котельнікова ........................
4.7. Дискретизація по критерію найбільшого відхилення ..................
4.8. Адаптивна дискретизація ............................................................
РОЗДІЛ 5. КВАНТУВАННЯ СИГНАЛІВ .............................................
5.1. Основні засади квантування сигналів ............................................
5.2. Квантування сигналів при дії завад ................................................
ВСТУП
Бурхливий розвиток комп’ютерних інформаційних технологій ставить дуже серйозні вимоги до знань студентів у цій галузі. Фахівець повинен володіти цілим комплексом методів та засобів для того, щоб розв’язати складну наукову чи технічну проблему.
Мета цього конспекту лекцій – висвітлення питань пов’язаних із математичними моделями сигналів та їх перетвореннями у форму, придатну для комп’ютерної обробки.
У першому розділі розглядаються загальні підходи до побудови моделей сигналів. Основний акцент покладається на ортогональні представлення у часовій та частотній областях.
Другий розділ присвячений розгляду властивостей спектрів періодичних та неперіодичних сигналів. Матеріал цього розділу дозволяє усвідомлено вибирати параметри каналів передачі та обробки даних.
Реально інформацію можуть нести лише випадкові сигнали. Моделям сигналів у вигляді випадкових процесів присячений третій розділ конспекту. Увага акцентується на частотному зображенні сигналів.
У четвертому розділі висвітлено питання дискретизації сигналів у часовій області. Основна увага звертається на похибки дискретизації та відновлення сигналів.
П’ятий розділ присв’ячений проблемам дискретизації по рівню сигналу (квантування сигналів). Два останні розділи висвітлюють проблему переходу від аналогової до цифрової форми сигналу, яка придатна для подальшої цифрової обробки.
Розділ 1
СПОСОБИ ЗОБРАЖЕННЯ СИГНАЛІВ
1.1. Поняття сигналу i його моделі
Сигнал в широкому розумiннi - матерiальний носiй iнформацii. При цьому вони можуть бути природними, або створюватися штучно з певною метою. Природними сигналами є, наприклад, оптичнi довколiшнього свiту, космiчне випромiнювання і т.п. Штучнi - радiолокацiйнi, еталоннi. Надалi поняття сигналу буде використовуватися в вузькому розумiннi як сигнал, який штучно створюється для передачi повiдомлень. Матерiальна основа - фiзичний об'ект або процес, який називають носiем. Носiй стає сигналом в результатi модуляцii - змiни якихось параметрiв носія.
Параметри носiя, якi мiняються в часi у вiдповiдностi з повiдомленням називаються iнформативними. Як носii використовуються рiзного роду коливання, найчастiше гармонiйнi. В технiчних системах переважно використовуються носii у виглядi електричноi напруги або струму.
В носii u(t) = сonst тiльки один iнформативний параметр - рiвень. Для гармонiйних коливань - амплiтуда, частота, фаза. Коливання подiляють на детермiнованi та випадковi. Детермiнованi точно визначенi у будь-якi моменти часу. Випадковi вiдрiзняються тим, що значення деяких параметрiв передбачити неможливо. Вони можуть розглядатися як сигнали або як завади.
Задачi пiдвищення ефективностi iнформацiйних систем пов'язанi з встановленням кiлькiсних спiввiдношень мiж основними параметрами джерела iнформацii та каналу зв'язку. Для розв’язання таких задач необхiднi вiдповiднi математичнi моделi. Модель – це вибраний спосіб опису об’єкта, процесу або явища, який відображає суттєві із точки зору поставленої задачі фактори.
Методи аналiтичного моделювання часто використовують моделi, параметри яких суперечать фiзичним властивостям реальних об'ектiв. Наприклад, перiодичнi сигнали представляються сумою безконечного числа синусоїд, якi мають безмежну протяжнiсть в часi. Слiд бути обережним з такими умовами. Сигнал принципiально є обмеженим у часі випадковим процесом. Вивчення детермiнованих коливань необхiдне по багатьох причинах. Зокрема створюеться основа для вивчення бiльш складних випадкових сигналiв.
Детерміновані сигнали мають також і самостійне значення. Вони спеціально створюються як еталони для вимірювання, налагоджування і регулювання інформаційних систем.
1.2. Форми зображення детермiнованих сигналiв
В залежності від структури інформаційних параметрів сигнали розділяють на неперервні, дискретні і неперервно-дискретні. Якщо множина можливих значень параметра утворює контініум, то сигнал вважають неперервним по даному параметру. Сигнал називають дискретним по даному параметру, якщо число значень, яке може приймати цей параметр скінчене. Сигнал неперервний по одному параметру і неперервний по іншому називають неперервно-дискретним. На рис. 1.1 наведені можливі форми зображення сигналу u(t).
Рис. 1.1.
Детермінований сигнал може бути зображений:
неперервною функцією неперервного аргумента, наприклад неперервною функцією часу (рис. 1.1, а);
неперервною функцією дискретного аргумента, наприклад функцією, значення якої даються відліками тільки у певні моменти часу (рис. 1.1, б);
дискретною функцією неперервного аргумента, наприклад функцією часу, квантованою по рівню (рис. 1.1, в);
дискретною функцією дискретного аргумента, наприклад функцією, яка приймає одне із скінченої множини значень (рівнів) у певні моменти часу (рис. 1.1, г).
Розглянуті моделi сигналів у вигляді функцій часу призначенi в першу чергу для аналiзу форми сигналiв. Бажано мати таку форму зображення, яка б дозволяла полегшити задачі аналізу проходження реальних сигналiв складної форми через дослiджуванi системи. З цiею метою сигнали зображаються лінійним перетворенням елементарних (базисних) функцiй. Такий підхід особливо продуктивний при аналізі лiнiйних систем. Лінійні системи є достатньо широким класом систем і на їх основі розрообляються методи аналізу нелінійних.
При аналізі проходження крізь лінійні системи сигнали зображають в виглядi зваженоi суми базисних функцій (або iнтегралу):
, (1.1)
де - інтервал існування сигналу.
При вибраному базисi сигнал повнiстю визначаеться коефiцiентами . Така сукупнiсть чисел називаеться дискретним спектром сигналу. На iнтервалi вираз справедливий як для необмежених в часi сигналiв, так i для сигналiв скiнченоi тривалостi. Однак за межами iнтервалу сигнал скiнченоi тривалостi не рiвний нулю (перiодично повторюеться). Тому, коли для обмеженого в часi cигналу необхідно отримати зображення, справедливе для будь-якого моменту часу, використовується інтеграл:
, (1.2)
де - базисна функція із неперервно змінним параметром .
В цьому випадку спектр є суцiльний і зображається спектральною густиною . Її розмірність обернена до розмірності .
Сукупність методів зображення сигналів у вигляді (1.1) і (1.2) називають узагальненою спектральною теорією сигналів. В рамках лінійної теорії спектри є зручною аналітичною формою зображення сигналів.
Для аналізу інформаційних систем базисні функції повинні задовільняти таким умовам:
мати прості аналітичні вирази;
забезпечувати швидку збiжнiсть ряду (1.1);
дозволяти просто обчислювати коефіцієнти розкладу ;
при синтезі сигналів забезпечувати просту технiчну реалiзацiю.
Система ортогональних функцій переважно є зліченною множиною.
1.3. Ортогональнi зображення сигналiв
Спектральнi складовi значно легше обчислюються в ортогональних базисах.
Систему функцій називають ортогональною на відрізку , якщо для всіх , окрім випадку виконується умова
(1.3)
Ця система функцій буде ортонормованою, якщо для всіх вірне співвідношення
. (1.4)
Якщо співвідношення (1.4) не виконується і
, (1.5)
то систему можна нормувати помноживши функції на .
Визначимо коефіцієнти при зображенні сигналу сукупністю ортонормованих функцій у вигляді
, (1.6)
припускаючи, що інтервал лежить всередині відрізка ортогональності .
Праву і ліву частини рівняння (1.6) множимо на і інтегруємо на інтервалі :
. (1.7)
Оскільки вірна умова (1.3) всі інтеграли у правій частині виразу (1.7) при будуть рівними 0. При у відповідності із (1.). Із цього випливає, що
(1.8)
У теоретичних дослідженнях звичайно використовують повні системи ортогональних функцій, які забезпечують як завгодно малу різницю між неперервною функцією і її рядом при необмеженому збільшенні кількості його членів. різницю оцінюють по квадратичному критерію
(1.9)
Співвідношення (1.6) часто називають узагальненим рядом Фур’є, а коефіцієнти - узагальненими коефіцієнтами Фур’є, оскільки вперше такий метод визначення коефіцієнтів був застосований для розкладу в ряд Фур’є.
1.4. Часова форма зображення сигналу
Складна функція часу може бути зображена розкладом, при якому як базисні функції використовуються одиничні імпульсні функції - дельта-функції. Математичний опис такій функцій задається співвідношеннями:
, (1.10)
,
де - - дельта-функція, відмінна від нуля на початку координат (при t = 0).
Для більш загального випадку, коли дельта-функція відрізняється від нуля у момент часу , маємо
, (1.11)
.
Така математична модель відповідає абстрактному імпульсу нескінченно малої тривалості і безмежної величини. За допомогою дельта-функції можна виразити значення реального сигналу в конкретний момент часу :
. (1.12)
Рівність (1.12) справедлива для будь-якого біжучого моменту часу t. Замінивши на t і прийнявши як змінну інтегрування , отримаємо:
(1.13)
Таким чином, функція u(t) виражена у вигляді послідовності імпульсів нескінченно малої тривалості. Ортогональность сукупності таких імпульсів очевидна, оскільки вони не перекриваються в часі.
Розклад (1.13) має велике значення в теорії лінійних систем, оскільки, встановивши реакцію системи на елементарний вхідний сигнал у вигляді дельта-функції (імпульсну перехідну функцію), можна легко визначити реакцію системи на довільний вхідний сигнал як суперпозицію реакцій на нескінченну послідовність зміщених дельта-імпульсів з “площами”, рівними відповідним значенням вхідного сигналу.
1.5. Частотна форма зображення сигналу
Розглянемо, які функції доцільно вибирати як базисні при аналізі лінійних систем із постійними параметрами. При дослідженні таких систем розв’язки завжди містять комплексні експоненціальні функції часу. Детерміновані сигнали, які описуються експоненціальними функціями часу, при проходженні через інваріантні в часі лінійні системи залишаються лінійними комбінаціями експонент, що є наслідком інваріантності класу експоненціальних функцій щодо операцій диференціювання і інтегрування.
Широко використовуються зображення детермінованих сигналів із застосуванням базисних функції як при (перетворення Фур’є), так і при (перетворення Лапласа).
Дотепер ми не торкалися фізичної інтерпретації базисних функції. Для чисто математичних перетворень вона не обов'язкова, Проте така інтерпретація має безумовні переваги, оскільки дозволяє глибше проникнути у фізичну суть явищ, які виникають в системах при проходженні сигналів.
Використовування експоненціальных базисних функції в перетворенні Фур’є комплексно-зв'язаними парами (із додатнім і від’ємним параметром ) дозволяє відповідно до формул Ейлера
(1.14)
зобразити складний детермінований сигнал у вигляді суми гармонійних складових. Оскільки параметр у цьому випадку має сенс кругової частоти, результат такого перетворення називають частотною формою зображення сигналу.
У частотному виді можуть зображатися як періодичні, так і неперіодичні детерміновані сигнали. Періодичних сигналів, природно, не існує, оскільки будь-який реальний сигнал має початок і кінець. Проте при аналізі сигналів в усталеному режимі можна виходити з припущення, що вони існують нескінченно довго і прийняти як математичну модель таких сигналів періодичну функцію часу. Далі розглядається зображення таких функції як у вигляді суми експоненціальних складових, так і перетворенням їх в суми тригонометричних функцій.
Розділ 2
СПЕКТРИ ДЕТЕРМІНОВАНИХ СИГНАЛІВ
2.1. Спектри періодичних сигналів
Розглянемо сигнал описаний довільною періодичною функцією u(t), яка задовільняє умовам Діріхле (рис. 2.1).
Теорема Діріхле. Якщо функція u(t) періоду Т кусково монотонна на відрізку і має на ньому не більше, ніж скінченне число точок розриву, тобто виконані так звані умови Діріхле, то її тригонометричний ряд Фур’є збігається до u(t) в кожній точці неперервності та до в кожній точці розриву.
Практично для всіх сигналів, які зустрічаються в інформаційних системах, ряди Фур’є збігаються і спеціальних досліджень не потребують.
Рис. 2.1.
Візьмемо в якості ортонормованої системи функцій сукупність тригонометричних функцій кратних аргументів:
(2.1)
По формулах (1.3, 1.4) легко перевiрити ортонормованiсть цієї системи на відрізку Т. Множник 2/Т звичайно вiдносять до коефiцiентiв розкладу i ряд записують у виглядi
. (2.2)
При такій формі запису коефiцiенти обчислюються за формулами:
. (2.3)
Тут і надалі позначено через .
Ряд (2.2) відображає коливання у вигляді суми постійної складової і косинусоїдальних і синусоїдальних коливань із амплітудами . Ці коливання називають відповідно першою, другою і подальшими гармоніками. Найнижча частота коливань рівна .
Часто віддають перевагу іншій формі запису ряду (2.2):
. (2.4)
При цьому коливання u(t) зображається у вигляді тільки косинусоїдальних гармонік із амплітудами і початковими фазами . Для визначення амплітуд і початкових фаз гармонік об'єднаємо у формулі (2.2) попарно члени із косинусами і синусами:
.
Розкриваючи дужки у правій частині цього виразу і прирівнюючи коефіцієнти при синусах і сосинусах, отримаємо, що:
звiдки
(2.5)
Практично зручнiше застосовувати ряд Фур'е, записаний в комплекснiй формi.
Скористаемося формулою Ейлера
.
Покладемо i позначимо
, (2.6)
Цю величину назовемо комплексною амплiтудою k-ї гармоніки. Вона містить дані і про амплітуду і про початкову фазу k-ї гармоніки. Тодi ряд можна записати у виглядi
(2.7)
де: , тобто комплексно спряжена із величина.
Комплексну амплітуду можна обчислити безпосередньо по даному u(t). Дійсно
.
Пiдставляючи сюди вирази для коефiцiентiв із (2.7) та об'еднуючи iнтеграли, отримаемо:
. (2.8)
Формули (2.7) і (2.8) називають парою перетворень Фур'е. Перша дозволяе знайти u(t) по спектру, друга - дозволяе знайти спектр, тобто гармонiйнi складовi, якi в сумi утворюють u(t). Формулу (1) можна представити також у виглядi:
(2.9)
Сукупність амплітуд і відповідних частот гармонік прийнято називати амплітудно-частотним спектром. Сукупність початкових фаз і відповідних частот гармонік називають фазо-частотним спектром. Спектри амплітуд і фаз однозначно визначають сигнал. Однак для багатьох практичних задач достатньо обмежитися розглядом лише спектру амплітуд.
На рис. 2.1 наведені графічні зображення спектру амплітуд і спектру фаз періодичного сигналу. Окремі спектральні складові у графічному зображенні спектру амплітуд називаються спектральними лініями.
Рис. 2.2.
Характерною особливістю спектру періодичного сигналу є його дискретність. Відстань між сусідніми спектральними лініями однакова і рівна частоті основної гармоніки .
2.2. Спектр неперіодичного сигналу
Будь-який неперіодичний сигнал можна розглялати як періодичний, період зміни якого рівний безмежності.
Реальний сигнал обмежений у часі і має скінченну енергію. Функції, які відображають реальні сигнали, задовільняють умовам Діріхле і абсолютно інтегровані, тобто
, (2.10)
де М – скінченна величина.
Iмпульсне коливання u(t) також можна виразити рядом Фур'е, якщо уявити собi його перiодичним. Однак вираз буде справедливий тiльки на вiдрiзку iснування u(t).
Нехай даний імпульс u(t) (рис.2.3, а). Утворимо уявно послiдовнiсть s(t) з великим перiодом Т (рис. 2.3, б). Тоді
, (2.11)
Рис.2.3.
Періодичну послідовність s(t) розкладемо в ряд Фур'е та по формулі (2.8) обчислимо комплекснi амплiтуди .Позначивши , отримаємо
, (2.12)
. (2.13)
Різниця між спектральними лініями послідовності s(t) становить
. (2.14)
При s(t) переходить в u(t), частота зменшується до нескінченно малої , а переходить в поточну частоту . Замінивши сумування iнтегралом, знайдемо
.
Позначивши інтеграл у квадратних дужках , отримаємо формули для прямого і оберненого інтегрального перетворення Фур’є:
, (2.15)
. (2.16)
Величину називають комплексною спектральною густиною, спектральною функцiею, або спектральною характеристикою. Вона має розмірність [амплітуда/частота]. На кожній конкретній частоті амплітуда відповідної складової рівна нулю.
Iнтеграл Фур'е визначае iмпульс у видi безмежноi суми безмежно малих складових, розмiщених на всiх частотах. На цiй пiдставi говорять про суцiльний спектр iмпульсу.
Спектральна функцiя не залежить вiд t, i є комплексною функцiею частоти. Вид спектральноi функцii залежить тiльки вiд форми iмпульсу. Для парних функцiй спектральна функцiя дiйсна, а для непарних чисто уявна.
2.3. Розподiл енергii в спектрi
Розглянемо розподіл потужності в спектрі періодичного сигналу. Для цього припустимо, що сигнал є складною періодичною функцією часу з періодом зміни Т. Приймемо по означенню, що середня потужнність сигналу визначається з виразу
. (2.17)
Якщо сигнал є напругою u(t), то вираз (2.17) дає середню потужність, яка виділяється на резисторі R величиною 1 Ом
Відобразивши u(t) рядом Фур’є, отримаємо наступний вираз для середньої потужності сигналу:
. (2.18)
Таким чином, середня потужність складного періодичного сигналу рівна сумі середніх потужностей окремих гармонік і його постійної складової.
Розглянемо тепер розподіл потужності в спектрі неперіодичного сигналу.
Енергія, що виділяється сигналом в резисторі в один Ом, визначається виразом
(2.19)
Для визначення розподілу енергії по спектру неперіодичного сигналу виразимо енергію W через модуль спектральної густини сигналу .
Квадрат модуля спектральної густини можна представити у вигляді
де - комплексно-спряжена функція до спектральної густини . Згідно (2.15)
Інтеграл від квадрата модуля спектральної густини
(2.20)
Змінивши в (2.20) порядок інтегрування, отримаємо
Таким чином, енергія сигналу
(2.21)
Вираз (2.21), який отримав назву рівності Парсеваля, показує, що енергія сигналу може бути представлена у вигляді суми нескінченно малих доданків , відповідних нескінченно малим ділянкам частотного спектру. Вираз є енергією, що міститься в спектральних складових сигналу, розташованих в смузі частот в околі частоти .
Таким чином, квадрат модуля спектральної густини характеризує розподіл по спектру енергії сигналу.
Якщо задана енергія сигналу в певній смузі частот в околі частоти , то модуль спектральної густини в точці може бути знайдений з наближеної рівності
.
Розділ 3
ВИПАДКОВИЙ ПРОЦЕС ЯК МОДЕЛЬ СИГНАЛУ
3.1. Загальна характеристика випадкових процесів як моделі сигналів
Розглянуті математичні моделі детермінованих сигналів були відомими функціями часу. Їх використовування дозволяє успішно вирішувати задачі, пов'язані з визначенням реакцій конкретних систем на задані вхідні сигнали. Випадкові складові, які завжди мають місце в реальному вхідному сигналі, вважають при цьому малими і не беруть до уваги.
Проте єдина точно визначена в часі функція не може служити математичною моделлю сигналу при передачі і перетворенні інформації. Оскільки отримання інформації пов'язано з усуненням апріорної невизначеності початкових станів, однозначна функція часу тільки тоді нестиме інформацію, коли вона з певною вірогідністю вибрана із множини можливих функцій. Тому як модель сигналу використовується випадковий процес. Кожна вибрана детермінована функція розглядається як реалізація цього випадкового процесу.
Необхідність застосування статистичних методів дослідження диктується і тим, що в більшості практично важливих випадків нехтування дією завади в процесах передачі і перетворення інформації неприпустиме. Вважається, що дія завади на корисний сигнал виявляється в непередбачуваних перекрученнях його форми. Математична модель завади відображається також у вигляді випадкового процесу, що характеризується параметрами, визначеними на основі експериментального дослідження. Властивості імовірності завади, як правило, відмінні від властивостей корисного сигналу, що і лежить в основі методів їх розділення.
Враховуючи, що всі фундаментальні висновки теорії інформації базуються на вказаному статистичному підході при описі сигналів і завад, уточнимо основні характеристики випадкового процесу як моделі сигналу.
Під випадковим (стохастичним) процесом розуміють таку випадкову функцію часу u(t), значення якої в кожний момент часу випадкові. Конкретний вид випадкового процесу, зареєстрований в певному досліді, називають реалізацією випадкового процесу. Точно передбачити, якою буде реалізація в черговому досліді, принципіально неможливо. Можуть бути визначені лише статистичні дані, що характеризують всю множину можливих реалізацій, яку називають ансамблем. Цінність таких моделей сигналів в тому, що з'являється можливість судити про поведінку інформаційної системи не по відношенню до конкретної реалізації, а по відношенню до всього ансамблю можливих реалізацій.
Основними ознаками, по яких класифікуються випадкові процеси, є; простір станів, часовий параметр і статистична залежність між випадковими величинами в різні моменти часу .
Простором станів називають множину можливих значень випадкової величини . Випадковий процес, у якого множина станів складає континіум, а зміни станів можливі в будь-які моменти часу, називають неперервним випадковим процесом. Якщо ж зміни станів допускаються лише в скінчнному або зліченному числі моментів часу, то говорять про неперервну випадкову послідовність.
Випадковий процес із скінченною множиною станів, які можуть змінюватися в довільні моменти часу, називають дискретним випадковим процесом. Якщо ж зміни станів можливі тільки в скінченному або зліченному числі моментів часу, то говорять про дискретні випадкові послідовності.
Оскільки в сучасних інформаційних системах перевага віддається цифровим методам передачі і перетворення інформації, то неперервні сигнали з давачів, як правило, перетворюються в дискретні, які описуються дискретними випадковими послідовностями. Питання такого перетворення розглянуті в розділі 4.
3.2. Імовірнісні характеристики випадкового процесу
Відповідно до визначення випадковий процес u(t) може бути описаний системою N, як правило, залежних випадкових величин ..., ..., узятих в різні моменти часу . При необмеженому збільшенні числа N така система еквівалентна даному випадковому процесу u(t).
Вичерпною характеристикою вказаної системи є N-вимірна густина імвірності . Вона дозволяє обчислити імовірність реалізації, значення якої в моменти часу знаходяться відповідно в інтервалах , де - значення, які приймає випадкова величина .
Якщо вибрані достатньо малими, то справедливо співвідношення
.
Отримання N-вимірної густини імовірності на основі експерименту передбачає статистичну обробку реалізацій, отриманих одночасно від великого числа ідентичних джерел даного випадкового процесу. При великих N - це надзвичайно трудомістка і дорога справа, а подальше використання результатів пов’язане із істотними математичними труднощами.
На практиці в такому докладному описі немає необхідності. Звичайно обмежуються одно- або двовимірною густиною імовірності.
Одновимірна густина імовірності випадкового процесу u(t) характеризує розподіл однієї випадкової величини , узятої в довільний момент часу . В ній не знаходить віддзеркалення залежність випадкових величин в різні моменти часу.
Двовимірна густина імовірності дозволяє визначити імовірність сумісної реалізації будь-яких двох значень випадкових величин в довільні моменти часу і, отже, оцінити динаміку розвитку процесу. Одновимірну густину вірогідності випадкового процесу u(t) можна отримати з двовимірної густини, скориставшися співвідношенням
(3.1)
Використовування густини імовірності навіть низьких порядків в практичних застосуваннях часто приводить до невиправданих ускладнень. В більшості випадків виявляється достатньо знання найпростіших характеристик випадкового процесу, аналогічних числовим характеристикам випадкових величин. Найпоширенішими з них є моментні функції перших двох порядків: математичне очікування і дисперсія, а також кореляційна функція.
Математичним очікуванням випадкового процесу u(t) називають невипадкову функцію часу , яка при будь-якому аргументі рівна середньому значенню випадкової величини по всій множині можливих реалізацій:
, (3.2)
Ступінь розкиду випадкових значень процесу від свого середнього значення для кожного u характеризується дисперсією :
, (3.3)
де - центрована випадкова величина.
Дисперсія в кожний момент часу рівна квадрату середнеквадратичного відхилення :
(3.4)
Випадкові процеси можуть мати однакові математичні очікування і дисперсії, проте різко розрізнятися по швидкості змін своїх значень в часі.
Для оцінки ступеня статистичної залежності миттєвих значень процесу u(t) в довільні моменти часу і використовується невипадкова функція аргументів , яку називють автокореляційною або просто кореляційною функцією.
При конкретних аргументах і вона рівна кореляційному моменту значень процесу і :
(3.5)
Через двовимірну густину імовірності вираз (3.5) представляється у вигляді
(3.6)
Симетричність цієї формули щодо аргументів приводить до рівності
(3.7)
Із порівняння (3.3) і (3.4) випливає, що при довільному автокореляційна функція вироджується в дисперсію:
(3.8)
Отже, дисперсію випадкового процесу можна розглядати як часткове значення автокореляційної функції.
Аналогічно встановлюється міра зв'язку між двома випадковими процесами u(t) і v(t). Вона називається функцією взаємної кореляції:
(3.9)
Для порівняння різних випадкових процесів замість кореляційної функції зручно користуватися нормованою функцією автокореляції:
(3.10)
3.3. Стаціонарні і ергодичні випадкові процеси
Випадкові процеси розрізняються по ступеню однорідності протікання їх в часі. В загальному випадку процес може мати певну тенденцію розвитку і характеристики, залежні від початку відліку часу. Такі випадкові процеси називаються нестаціонарними.
Для опису сигналу математична модель у вигляді нестаціонарного випадкового процесу підходить найкращим чином, але неконструктивна через свою надмірну складність.
Тому дуже часто вводять припущення про стаціонарність випадкового процесу, щодозволяє значно спростити математичний апарат досліджень.
Випадковий процес називають стаціонарним у вузькому сенсі, якщо густини розподілу імовірностей не залежать від початку відліку часу, тобто справедливе співвідношення
=
= (3.11)
де - випадкова величина, що відображає значення процесу у момент часу ( - довільне число).
Інакше кажучи, стаціонарність процесу припускає його існування і статистичну однорідність у всьому діапазоні часу від до .
Таке припущення суперечить фізичним властивостям реальних сигналів, зокрема тому, що будь-який реальний сигнал існує лише на протязі скінченного відрізку часу. Проте аналогічно сталим детермінованим процесам випадкові процеси, що протікають в сталому режимі системи за незмінних зовнішніх умов на певних відрізках часу, з певним наближенням можна розглядати як стаціонарні.
При рішенні багатьох технічних задач йдуть на подальше спрощення моделі, розглядаючи випадковий процес стаціонарним в широкому сенсі. Процес u(t) прийнято називати стаціонарним в широкому сенсі, якщо виконується умова постійності математичного очікування і дисперсії, а кореляційна функція не залежить від початку відліку часу і є функцією тільки одного аргументу , тобто
(3.12)
Оскільки умова постійності дисперсії є часковим випадком вимоги до кореляційної функції при :
то виконання співвідношень (3.12) достатньо, щоб розглядати випадковий процес u(f) як стаціонарний.
Будь-який стаціонарний випадковий процес є стаціонарним в широкому сенсі. Надалі, якщо це не обумовлено особливо, стаціонарність розглядатимемо в широкому сенсі.
Випадкові процеси, які спостерігаються в стійко працюючих реальних системах, мають скінченний час кореляції. Тому для стаціонарних процесів, що представляють практичний інтерес, справедливе співвідношення:
. (3.13)
Якщо для випадкового процесу рівності (3.12) не витримуються, але на інтервалі часу що цікавить нас зміною вказаних параметрів можна нехтувати, його називають квазістаціонарним.
Серед стаціонарних випадкових процесів багато таких, що задовольняють властивості ергодичності. Вона виявляється в тому, що кожна реалізація випадкового процесу достатньої тривалості несе практично повну інформацію про властивості всього ансамблю реалізацій, що дозволяє істотно спростити процедуру визначення статистичних характеристик, замінюючи усереднювання значень по ансамблю реалізацій усередненням значень однієї реалізації за тривалий інтервал часу.
Отже, для стаціонарних ергодичних процесів справедливі співвідношення
, (3.14)
(3.15)
(3.16)
де u(f) - конкретна реалізація випадкового процесу.
Результати дослідження випадкових процесів в їх часовому зображенні, тобто із використанням формул (3.14 – 3.15), лежать в основі кореляційної теорії сигналів.
Для полегшення практичного визначення кореляційних функцій у відповідності з (3.16) серійно випускаються спеціальні обчислювальні пристрої - корелометри (корелятори).
3.4. Спектральне зображення випадкових сигналів
В розділі 1 була показана ефективність представлення детермінованих сигналів сукупністю елементарних базисних сигналів для полегшення аналізу їх проходження через лінійні системи. Аналогічний підхід може бути використаний і у випадку сигналів, які є випадковими процесами.
Розглянемо випадковий процес ), що має математичне очікування . Відповідний центрований випадковий процес характеризується у будь-який момент часу центрованою випадковою величиною :
. (3.17)
Центрований випадковий процес можна виразити у вигляді скінченної або нескінченної суми ортогональних складових, кожна з яких є невипадковою базисною функцією ) із коефіцієнтом , що є випадковою величиною. В результаті маємо розклад центрованого випадкового процесу :
. (3.18)
Випадкові величини називаються коефіцієнтами розкладу. В загальному випадку вони статистично залежні і цей зв'язок задається матрицею коефіцієнтів кореляції . Математичні очікування коефіцієнтів розкладу рівні нулю. Невипадкові базисні функції прийнято називати координатними функціями.
Для конкретної реалізації коефіцієнти розкладу є дійсними величинами і визначаються по формулі
. (3.19)
Припустивши, що , детерміновану функцію в (3.16) на інтервалі також можна розкласти по функціях зобразивши у вигляді:
, (3.20)
. (3.21)
Підставляючи (3.20) і (3.21) в (3.17) для випадкового процесу u(t) з відмінним від нуля середнім, отримаємо
. (3.22)
Вираз випадкового процесу у вигляді (3.22) дозволяє істотно спростити його лінійні перетворення, оскільки вони зводяться до перетворень детермінованих функцій , а коефіцієнти розкладу, що є випадковими величинами, залишаються незмінними.
Щоб визначити вимоги до координатних функцій, розглянемо кореляційну функцію процесу , задану розкладом
Оскільки
то
(3.23)
Співвідношення (3.23) стає значно простішим, якщо коефіцієнти некорельовані ( при при ):
. (3.24)
Зокрема, при отримаємо дисперсію випадкового процесу u(t):
. (3.25)
Тому доцільно вибирати такі координатні функції, які забезпечують некорельованість випадкових величин . Розклад (3.20-3.22), що задовільняє цій умові, називають канонічним розкладом.
Доведено [], що по відомому канонічному розкладу кореляційної функції випадкового процесу можна записати канонічний розклад самого випадкового процесу з тими ж координатними функціями, причому дисперсії коефіцієнтів цього розкладу будуть рівні дисперсіям коефіцієнтів розкладу кореляційної функції.
Таким чином, при вибраному наборі координатних функцій центрований випадковий процес характеризується сукупністю дисперсій коефіцієнтів розкладу, яку можна розглядати як узагальнений спектр випадкового процесу.
В канонічному розкладанні (3.20-3.22) цей спектр є дискретним (лінійчастим) і може містити як скінченне, так і нескінченне число членів (ліній).
Проте використовуються і інтегральні канонічні розклади у формі (1.2). В цьому випадку ми маємо неперервний спектр, що представляється спектральною густиною дисперсій.
Основною перешкодою до широкого практичного використання канонічних розкладів випадкових процесів є складність процедури знаходження координатних функцій. Проте для ряду стаціонарних випадкових процесів ця процедура цілком прийнятна.
3.5. Частотне зображення стаціонарних випадкових сигналів
Дискретні спектри. Кореляційну функцію (рис. 3.1) стаціонарного випадкового процесу, заданого на скінченному інтервалі часу [-Т, Т], можна розкласти в ряд Фур’є , умовно вважаючи її такою, що періодично продовжується з періодом 4Т (при :
Рис. 3.1. Вид кореляційної функції
. (3.26)
де -
(3.27)
Враховуючи, що є парною функцією, маємо
(3.28)
Поклавши , знаходимо
, (3.29)
що згідно (3.24) є канонічним розкладом кореляційної функції. По ньому, як було вказане раніше, одержуємо канонічний розклад випадкового процесу:
, (3.30)
причому
. (3.31)
Вираз (3.31) записаний для випадкового процесу з нульовою постійною складовою, що характерне для багатьох реальних сигналів. В загальному випадку в праву частину цього виразу необхідно додати постійну величину, відповідну математичному очікуванню випадкового процесу (). Кореляційна функція при цьому не змінюється.
Очевидно, що при попарном об'єднанні експоненціальних складових з однаковими додатніми і від’ємними індексами k канонічний розклад (3.30) приводиться до тригонометричної форми.Таким чином, стаціонарний випадковий процес на обмеженому інтервалі часу можна представити сукупністю гармонійних складових різних частот з амплітудами, що є некорельованими випадковими величинами, математичні очікування яких рівні нулю:
, (3.32)
де
На спектральній діаграмі такого процесу кожній гармоніці ставиться у відповідність вертикальний відрізок, довжина якого пропорційна дисперсії її амплітуди, а розташування на осі абсцис відповідає частоті.
Щоб отримати опис стаціонарного випадкового процесу в точному значенні, тобто справедливе для будь-якого моменту часу на нескінченному інтервалі , необхідно перейти до інтегрального канонічного розкладу.
Неперервні спектри. Інтегральний канонічний розклад для кореляційної функції отримаємо з формули (3.26) шляхом граничного переходу при . Збільшення інтервалу часу, на якому спостерігається випадковий процес, супроводжується зменшенням значень дисперсій, що випливає із (3.27), а також скороченням відстані між спектральними лініями, оскільки
. (3.33)
При достатньо великому, але скінченному Т можна записати вираз для середньої густини розподілу дисперсії по частоті:
(3.34)
де - - середня густина дисперсії на ділянці, прилеглій до частоти .
Тепер можна перетворити формули (3.29) і (3.34) до вигляду
, (3.35)
. (3.36)
Переходячи до границі при , одержуємо
, (3.37)
де
. (3.38)
Оскільки величина була не тільки дисперсією коефіцієнта розкладу кореляційної функції але і дисперсією коефіцієнта розкладу випадкового процесу u(t), то величина , отримана в результаті граничного переходу при , є дисперсією, що приходиться на спектральні складові стаціонарного випадкового процесу, які займають нескінченно малий інтервал частот (). Функцію , що характеризує розподіл дисперсії випадкового процесу по частотах, називають спектральною густиною стаціонарного випадкового процесу u(t).
Вираз для інтегрального канонічного розкладу кореляційної функції знайдемо, поклавши у формулі (3.37) :
(3.39)
Позначивши і повторивши процедуру граничного переходу при для співвідношення (3.30), отримаємо канонічний розклад стаціонарної випадкової функції u(t):
, (3.40)
де дисперсією випадкової функції є функція
Оскільки поняття спектральної густини стаціонарного випадкового процесу грає велику роль при дослідженні перетворення сигналів лінійними системами, уточнимо її властивості і фізичне зміст.
Основні властивості спектральної густини. Відзначимо, що у формулах (3/37) і (3/38) визначена як для ддатніх, так і для від’ємних частот. Перейдемо до одностороннього спектру, обмежуючись тільки додатніми частотами. Скориставшися формулою Ейлера, представимо співвідношення (3.38) сумою двох складових:
Через парність функції другий доданок рівний нулю, а перший можна перетворити до вигляду
. (3.41)
З (3.41) випливає, що є дійсною і парною функцією, тобто
. (3.42)
Це дозволяє обмежитися додатніми частотами і в (3.37):
. (3.43)
Співвідношення (3.37) і (3.38), а також (3.41) і (3.43) є парами інтегрального перетворення Фур’є, причому (3.41) і (3.43) для випадку парної функції. Тому кореляційна функція і спектральна густина підкоряється закономірності: чим більше “розмазана” крива по частот...