МІНІСТЕРСТВО ОСВІТИ І НАУКИ УКРАЇНИ
УКРАЇНСЬКИЙ ДЕРЖАВНИЙ УНІВЕРСИТЕТ ВОДНОГО ГОСПОДАРСТВА ТА ПРИРОДОКОРИСТУВАННЯ
КАФЕДРА ЕЛЕКТРОТЕХНІКИ ТА АВТОМАТИКИ
МЕТОДИЧНІ ВКАЗІВКИ
до виконання лабораторної роботи № 1
«Розрахунок градуювального графіка та визначення основних метрологічних характеристик результату аналізу у випадку лінійної регресії»
Рівне 2006Лабораторна робота № 1
Тема роботи: Розрахунок градуювального графіка та визначення основних метрологічних характеристик результату аналізу у випадку лінійної регресії.
Мета роботи: Розрахунок метрологічних характеристик і параметрів лінійного градуювального графіка (y = a + bx).
Розрахунок метрологічних характеристик і параметрів лінійного градуювального графіка (y = a + bx) виконаємо на прикладі:
Розрахувати значення концентрації бензолу в спирті () і границі довірчого інтервалу двох розчинів, для яких спектрофотометричним методом в УФ частині спектра виміряти оптичну густину (по три паралельних проби кожного розчину, m=3). Дані в таблиці 1.
Попередньо була виміряна оптична густина семи стандартних розчинів (n=7) бензолу в етиловому спирті і по результатах вимірювання побудований градуювальний графік. Отримані результати представлені в таблиці 2.
Табл. 1. Вихідні дані для розрахунку
Остання цифра шифру
Параметр
0
1
2
3
4
5
6
7
8
9
Оптична густина
1,53
1,43
1,63
1,73
1,83
1,93
1,50
1,60
1,70
1,80
Оптична густина
0,75
0,85
0,95
0,98
0,80
0,70
0,90
0,78
0,88
0,93
Ймовірність, P
0,9
0,95
0,98
0,99
0,8
0,9
0,95
0,98
0,99
0,8
Число ступенів вільності , f
n – 2
Табл. 2. Дані вимірювання стандартних розчинів
Передостання
цифра шифру
Параметр
0
1
2
3
4
5
6
7
8
9
Дослід 1
Х1
0,2
0,25
0.1
0,15
0,3
0,35
0,4
0,45
0,05
0,2
У1
0,2
0,24
0,1
0,15
0,28
0,32
0,36
0,4
0,05
0,2
Дослід 2
Х2
0,5
0,55
0,60
0,65
0,70
0,75
0,80
0,85
0,90
0,95
У2
0,37
0,4
0,42
0,45
0,48
0,51
0,53
0,55
0,58
0,61
Дослід3
Х3
1,0
1,05
1,1
1,15
1,2
1,25
1,3
1,35
1,4
1,45
У3
0,64
0,67
0,7
0,73
0,76
0,79
0,81
0,84
0,87
0,9
Дослід 4
Х4
1,5
1,55
1,6
1,65
1,7
1,75
1,8
1,85
1,9
1,95
У4
0,93
0,96
0,99
1,02
1,05
1,08
1,1
1,13
1,16
1,19
Дослід 5
Х5
2,0
2,05
2,1
2,15
2,2
2,25
2,3
2,35
2,4
2,45
У5
1,22
1,26
1,28
1,31
1,34
1,37
1,39
1,42
1,45
1,47
Дослід 6
Х6
2,5
2,55
2,60
2,65
2,7
2,75
2,8
2,85
2,9
2,95
У6
1,50
1,53
1,56
1,59
1,62
1,65
1,68
1,71
1,74
1,77
Дослід 7
Х7
3,0
3,05
3,1
3,15
3,2
3,25
3,3
3,35
3,4
3,45
У7
1,80
1,83
1,86
1,89
1,92
1,95
1,98
2,01
2,04
2,07
Розрахунки проводяться в такій послідовності:
1. Визначають середнє значення концентрації і оптичної густини стандартних розчинів та квадрати суми цих же величин: ; ; ; ().
2. Вираховують параметри градуювального графіка за формулами
; .
3. Визначають суму квадратів
.
4. Знаходять дисперсію оцінки, яка характеризує міру розсіювання експериментальних даних відносно прямої, за формулою
.
5. Використовуючи закон накопичення помилок, знаходять стандартні відхилення вільного члена Sa та коефіцієнта регресії Sb:
;
.
6. Вираховують інтервальні значення констант і , які визначають число знаків після коми для значень а і b:
; .
Коефіцієнт Стьюдента tp,f для заданої ймовірності появи похибки p i числа ступенів вільності f = n-2 вибирають з таблиці 1 додатку 1.
7. Знаходять коефіцієнт кореляції, який показує ступінь залежності величин X і Y, за формулою
.
8. Знаходять розрахункове значення концентрації бензолу в спирті
.
9. Розраховують границі довірчого інтервалу
.
10. Результати вимірювання представляють у вигляді .
Додаток 1
Таблиця 1
Число ступенів вільності
Значення tp,f при ймовірності p
0,2
0,4
0,6
0,8
0,9
0,95
0,98
0,99
0,999
1
0,23
0,73
1,38
3,1
6,3
12,7
31,8
63,7
636,6
2
0,29
0,62
1,06
1,9
2,9
4,3
7,0
9,9
31,6
3
0,28
0,58
0,98
1,6
2,4
3,2
4,5
5,8
12,9
4
0,27
0,57
0,94
1,5
2,1
2,8
3,7
4,6
8,6
5
0,27
0,56
0,92
1,5
2,0
2,6
3,4
4,0
6,9
6
0,27
0,55
0,90
1,4
1,9
2,4
3,1
3,7
6,0
7
0,26
0,55
0,90
1,4
1,9
2,4
3,0
3,5
5,4
8
0,26
0,54
0,90
1,4
1,9
2,3
2,9
3,4
5,0
9
0,26
0,54
0,88
1,4
1,8
2,3
2,8
3,3
4,8
10
0,26
0,54
0,88
1,4
1,8
2,2
2,8
3,2
4,6
11
0,26
0,54
0,88
1,4
1,8
2,2
2,7
3,1
4,5
12
0,26
0,54
0,87
1,4
1,8
2,2
2,7
3,1
4,3
13
0,26
0,54
0,87
1,4
1,8
2,2
2,7
3,0
4,2
14
0,26
0,54
0,87
1,3
1,8
2,1
2,6
3,0
4,1
15
0,26
0,54
0,87
1,3
1,8
2,1
2,6
2,9
4,0
16
0,26
0,54
0,86
1,3
1,7
2,1
2,6
2,9
4,0
17
0,26
0,53
0,86
1,3
1,7
2,1
2,6
2,9
4,0
18
0,26
0,53
0,86
1,3
1,7
2,1
2,6
2,9
3,9
19
0,26
0,53
0,86
1,3
1,7
2,1
2,6
2,9
3,9
20
0,26
0,53
0,86
1,3
1,7
2,1
2,5
2,8
3,8