استنباط آماري مدل رگرسيوني با خطاهاي خودبازگشتي به روش لاسو

 

 

فهرست مطالب

 

 

عنوان                                                                                              صفحه

 

فصل اول: مقدمات و تعاریف

مقدمه : 2

1-1-رگرسیون خطی چندگانه و مسئله چند همخطی… 2

1-2-رگرسیون ریج.. 4

1-3-بریج.. 5

1-4-لاسو. 6

1-4-1-رفتار مجانبی ……. 8

1-5-تعاریف…. 10

1-5-1- تُنُکی… 10

1-5-2-برآوردگر پیشگو. 10

1-5-3-نماد لاندا 11

1-5-4-بهینه سازی محدب… 12

1-5-5-1-همگرایی در توزیع.. 12

1-5-5-2-همگرایی در احتمال.. 13

1-5-5-3-سازگاری با نرخ ریشه  ام. 13

1-5-5-4-همگرایی با احتمال یک….. 14

1-5-6-فرایند ایستا 14

1-5-7-فرایند خودبازگشتی-میانگین متحرک…. 14

1-5-8-معیارهای انتخاب مدل.. 15

1-5-8-1-معیار اطلاع بیزی… 15

1-5-8-2-اعتبارسنجی متقابل… 16

اعتبارسنجی متقابل  لایه. 17

 

فصل دوم: برآوردگرهای لاسو برای پارامترهای مدل رگرسیون خطی با خطاهای خودبازگشتی

2-1-مدل رگرسیون خطی با خطای سری زمانی… 21

2-2-برآوردکمترین مربعات درمدل رگرسیونی باخطاهای خودبازگشتی میانگین متحرک…. 22

2-3-برآورد کمترین مربعات پارامترها 24

2-4-توزیع برآوردها 26

2-5-برآوردیابی به روش لاسو برای پارامترهای مدل رگرسیون خطی با خطاهای خودبازگشتی… 28

2-6-خواص نظری برآوردگرهای لاسو. 30

2-6-1-خواص برآوردگر لاسو سنتی… 31

2-6-2-خواص برآوردگر لاسو اصلاح شده. 35

فصل سوم: الگوریتم دستیابی به برآوردگرهای لاسو در مدل رگرسیون خطی با خطای خود بازگشتی

3-1-فرایند تکراری… 42

3-2-تحدب موضعی 44

3-3-برآوردگر شروع.. 45

3-4-پارامترهای تنظیم کننده. 45

فصل چهارم: مثالهای کاربردی و شبیه سازی

4-1-مثال شبیه سازی… 49

4-2-مثال واقعی… 52

پیوست…. 55

مارتینگل و قضیه حد مرکزی مارتینگلها 56

قضیه ارگودیک….. 57

فهرست منابع و مآخذ.. 58

واژه نامه فارسی به انگلیسی… 61

واژه نامه انگلیسی به فارسی… 66

فهرست جدول ها

 

 

عنوان                                                                                             صفحه

 

جدول4-1: نتایج شبیه سازی برای ………………………………………………………………………… 51

جدول4-2: نتایج مثال واقعی……………………………………………………………………………………………………… 53

فهرست علائم اختصاری

LASSO: Least Absolute Shrinkage and Selection Operator

i.i.d: independent  and  identical distribution

MSE: Mean Square Error

CV: Cross Validation

GCV: Generalized Cross Validation

OLS: Ordinary Least Square