Page 41 - 6832
P. 41
Функція (x ) називається функцією регресії випадкової величини Y на Х, а графік цієї функції
– лінією регресії Y на Х. Її математичне очікування визначається так:
~
M[ y] a a x
0 1
На практиці можливі випадки, коли обидві величини Х і Y є випадковими. Пара випадкових
величин має деякий сумісний розподіл.
Рівняння регресії в цьому випадку визначається як умовне математичне очікування змінної У
відносно Х (регресія У на Х). Величина
M[ Y / X ] yf ( y / x) dx
являє собою усереднену характеристику зв’язку між У і Х.
Крім прямої регресії можлива і обернена регресія:
M[ X / Y] xf ( x / y) dx
Схема регресії як умовне математичне очікування є більш загальною.
Класична регресія, що полягає в дослідженні лінійної залежнос ті для фіксованих значень Х,
характеризується безумовною регресією. Вона дозволяє робити висновки тільки для даного набору
незалежної змінної, тоді як в умовній регрес ії одержані висновки і оцінки мають більш загальний
характер. Ці висновки можуть бути розповсюджені на всю генеральну сукупніс ть незалежних
змінних.
Спочатку будемо розглядати лінійні моделі – лінійні за параметром аi.
Вибір для розгляду тільки лінійних моделей не обмежує загальнос ті одержаних висновків. Це
зумовлено тим, що багато нелінійних моделей можуть бути приведені до лінійних за допомогою
відповідного перетворення. Моделі ж, які містять фактори в другому і вищих с тупенях, або фактори
в них є функціями будь-яких інших змінних (sin x, lg x і т.і.), можуть бути перетворені в лінійні.
4 Метод найменших квадратів
Нехай маємо N пар спостережень (x,y) , причому x t – фіксовані значення вхідної величини.
Цьому набору відповідає деяке поле кореляції.
Необхідно підібрати лінію регресії виду y € a € a € x
0 1
яка б найкращим чином описувала поведінку об'єкта. Як вже відмічалося, через наявність,
~
наприклад, похибки вимірювання значення вихідної величини y також будуть випадковими.
i
Для оцінки коефіцієнтів регресії € a і € a використовується метод найменших квадратів (МНК),
0 1
~
який дозволяє мінімізувати суму квадратів різниці відхилення експериментальних даних y і
i
розрахункових значень, отриманих за рівнянням регресії
y € a € a € x
0 1
МНК полягає в мінімізації функції
N
~
2
Q (y i y € i ) min
1 i
Для лінійної парної залежності маємо
N
~
2
Q [y i € ( a 0 a 1 i )] min
€ x
1 i
При знаходженні оцінок коефіцієнтів, які задовольняють даним умовам, необхідно взяти час
Q
ткові похідні і прирівняти до нуля. Отримаємо систему рівнянь, яка називається системою
a
j
нормальних рівнянь. Число цих рівнянь відповідає числу невідомих:
40