136. Как правило в эталонной категории
• все фиктивные переменные равны 0
137. Категория — это событие, которое определенно __________________ в каждом наблюдении.
• либо происходит, либо нет
138. Когда делается предсказание на момент времени , предполагается, что известна величина
•
139. Коэффициент R 2 вычисляется по формуле: R 2 = .
•
140. Коэффициент автокорреляции случайных остатков в модели АР (1) равен:
•
141. Коэффициент автокорреляции определяется соотношением:
•
142. Коэффициент автокорреляции члена ряда с самим собой равен:
• 1
143. Коэффициент детерминации R 2 изменяется в пределах
•
144. Коэффициент детерминации равен __________________ выборочной корреляции между y и a + bx.
• квадрату
145. Коэффициент наклона в уравнении линейной регрессии показывает __________________ изменяется y при увеличении x на одну единицу.
• на сколько единиц
146. Коэффициент ранговой корреляции имеет дисперсию
• 1/ (n — 1)
147. Коэффициент Тейла лежит в пределах
• от 0 до 1
148. Коэффициент Тейла основан на расчете
• среднеквадратичного значения ошибки прогноза приростов
149. Коэффициент Тейла служит критерием
• успешности сделанного прогноза
150. Коэффициент Тейла является более точным показателем, чем
•
- Парная регрессия
- Алгоритм выполнения индивидуального задания 2
- Эконометрика (часть 1-1)
- Ниже указаны кнопки, нажмите на ту соц. сеть или месенджер, который Вы используете или заполните форму для того, чтобы мы ответили Вам на e-mail.
- Простая линейная регрессия в EXCEL
- Немного теории и основные понятия
- Предположения линейной регрессионной модели
- Задачи регрессионного анализа
- Оценка неизвестных параметров линейной модели (используя функции MS EXCEL)
- Оценка неизвестных параметров линейной модели (через статистики выборок)
- Оценка неизвестных параметров линейной модели (матричная форма)
- Построение линии регрессии
- Коэффициент детерминации R 2
- Стандартная ошибка регрессии
- Стандартные ошибки и доверительные интервалы для наклона и сдвига
- Проверка значимости взаимосвязи переменных
- Доверительные интервалы для нового наблюдения Y и среднего значения
- Проверка адекватности линейной регрессионной модели
- 📺 Видео
Видео:Коэффициент детерминации. Основы эконометрикиСкачать
Парная регрессия
Взаимосвязанные признаки подразделяются на факторные (под их воздействием изменяются другие, зависящие от них признаки) и результативные (изменяющихся под воздействием факторных признаков).
Если причинная зависимость проявляется не в каждом отдельном случае, а в общем, при большом количестве наблюдений, то такая зависимость называется стохастической. Частным случаем стохастической связи является корреляционная связь, при которой изменение среднего значения результативного признака обусловлено изменением факторных признаков.
Прямолинейная зависимость в этом случае может быть выражена уравнением прямой:
Параметр a1 называется коэффициентом регрессии и показывает, насколько в среднем отклоняется величина результативного признака y при отклонении величины факторного признака x на одну единицу.
Параметр a0 показывает усредненное влияние на результативный признак неучтенных (не выделенных для исследования) факторов.
Алгоритм выполнения индивидуального задания 2
Парная регрессия характеризует связь между двумя признаками: результативным (y) факторным (x). Аналитически линейная связь между ними описывается уравнением прямой ;
Скопируйте файл «Численность населения» на лист Excel.
Скопируйте данные своего варианта задания 1 (без регионов) в следующий столбец.
Исключите суммарные итоги по федеральным округам и Российской федерации в целом (удалите эти строки).
Вычислите средние значения по обоим факторам.
Организуйте столбцы Yi-Yсред, (Yi-Yсред) 2 , Xi-Xсред, (Xi-Xсред) 2 , (Yi-Yсред)*(Xi-Xсред). Произведите расчеты этих столбцов.
Рассчитайте суммарные значения столбцов
Рассчитайте коэффициент регрессии а1.
В уравнениях регрессии параметр параметр а1 — коэффициент регрессии показывает, насколько изменяется в среднем значение результативного признака при изменении факторного на единицу его собственного измерения.
Коэффициент регрессии а1 рассчитается коэффициент регрессии а1 по формуле:
Коэффициент регрессии означает, что при увеличении а1 – оборота розничной торговли на единицу (один миллиард рублей) численность населения увеличится на 0,05 человека, т.е чтобы численность населения увеличилась на 1 человека, оборот розничной торговли должен увеличится в 20 раз.
Рассчитайте свободный член уравнения регрессии а0 .В уравнениях регрессии параметр а0 показывает усредненное влияние на результативный признак неучтенных (не выделенных для исследования) факторов.
Свободный член а0 в уравнении регрессии означает, что если оборота розничной торговли не будет вовсе, численность населения составит 1258,18 человек. Если бы свободный член был отрицательным, то это бы означало, что х не может быть равен нулю или близким к нулю.
Рассчитайте тесноту связи между рассматриваемыми факторами по величине коэффициента корреляции.
Величина коэффициента корреляции
Характер тесноты связи
По направлению выделяют связь прямую и обратную. При прямой связи с увеличением или уменьшением значений факторного признака происходит увеличение или уменьшение значений результативного. В случае обратной связи значения результативного признака изменяются в противоположном направлении по сравнению с изменением факторного признака.
Коэффициент корреляции рассчитывается по формуле
Коэффициент корреляции показывает, что связь между факторами сильная.
Рассчитайте коэффициент детерминации по формуле ryx 2 =0,8 2 =0,64, который характеризует долю вариации результативного признака Y под воздействием всех изучаемых факторных признаков, то есть долю дисперсии отклонений зависимой переменной от её среднего значения, объясняемую рассматриваемой моделью связи.
Проведите статистическую оценку надежности (значимости) параметров парной регрессии
Для коэффициента парной регрессии а1 средняя ошибка оценки
где – расчётные значения результативного признака для i-й единицы;
n- 2 — число степеней свободы (теряются 2 степени свободы, поскольку линейная парная регрессия имеет два параметра).
Рассчитывается столбец с расчётными значениями по уравнению регрессии y=а0+а1х=1258,18+0,05x.
находится отношение коэффициента к его средней ошибке, т.е. t-критерий Стьюдента:
Табличное значение t-критерия Стьюдента при 16 – 2 степенях свободы и уровне значимости 0,05 составляет 2,14 (функция СТЬЮДРАСПОБР).
Полученное значение критерия намного больше, следовательно, вероятность нулевого значения коэффициента регрессии менее 0,05, то есть Коэффициент регрессии значим.
32. Произведите статистическую оценку надежности (значимости) коэффициента корреляции.
Для проверки существенности связи между группировочным признаком и вариацией исследуемого признака используется F-критерий Фишера.
В нашем примере Fкр=3,96 (функция FРАСПРОБР) при уровне значимости 0,05, степенях свободы v1 = m-1; v2 = N-m;
где m – число факторов (при парной корреляции равно 2,
N – число наблюдений,
Поскольку Fрасч >Fкp, коэффициент корреляции значим, наличие связи доказано, т.е. это говорит о наличии связи между факторным и результативным признаками.
Видео:Математика #1 | Корреляция и регрессияСкачать
Эконометрика (часть 1-1)
- Решение промежуточных тестов
- Выполнение практически (семинарских работ)
- Решение итогового теста
ЕСЛИ У ВАС НЕ ПОЛУЧАЕТСЯ СДАТЬ ДАННЫЙ ПРЕДМЕТ ИЛИ НЕТ ВРЕМЕНИ, НАПИШИТЕ НАМ, ВЫПОЛНИМ БЫСТРО И НА ХОРОШУЮ ОЦЕНКУ. МЫ БОЛЕЕ 7 ЛЕТ ЗАНИМАЕМСЯ РЕШЕНИЕМ ТЕСТОВ И НАПИСАНИЕМ РАБОТ ДЛЯ ВАШЕГО ВУЗА.
Ниже указаны кнопки, нажмите на ту соц. сеть или месенджер, который Вы используете или заполните форму для того, чтобы мы ответили Вам на e-mail.
Чтобы написать через WhatsApp или Viber, данные приложения должны стоять у Вас на компьютере или войдите на сайт mum . zdai . ru с мобильного телефона, где стоят эти приложения, увидите мигающий круг онлайн консультанта, нажмите на него и выберите ту иконку месенджера, с которого желаете написать. В дальнейшем, мы останемся у Вас в списке чатов, можете писать сразу из месенжера.
Вопросы теста:
Если в уравнении регрессии увеличить x на единицу, то в результате этого yв среднем изменится на величину:
При исследовании зависимости себестоимости продукции y от объема выпуска x1 и производительности труда x2 по данным n=20 предприятий получено уравнение регрессии и среднеквадратические отклонения коэффициентов регрессии и . Можно ли при уровне значимости ?=0,05 утверждать, что знач имы коэффициенты
Что минимизируется согласно методу наименьших квадратов:
Переменные, которые формируются вне модели, называются
По данным n=25 регионов получена регрессионная модель объема реализации медикаментов на одного жителя у в зависимости от доли городского населения х1 и числа фармацевтов х2
на 10 тыс. жителей: и среднеквадратичное отклонение коэффициентов регрессии и Начиная с какого уровня значимости ? можно утверждать, что y зависит от доли городского населения х1 :
Свойства коэффициентов регрессии как случайных величин зависят от свойств ________ уравнения
При исследовании зависимости себестоимости продукции y от объема выпуска x1 и производительности труда x2
В чем состоит условие независимости погрешностей регрессионной модели :
Проверить гипотезу о гомоскедастичности регрессионных остатков можно с помощью:
В модели регрессионного анализа к распределению ошибок наблюдения , а именно к их математическому ожиданию и дисперсии предъявляются требования:
Какие требования в модели регрессионного анализа предъявляются к распределению ошибок наблюдения , а именно к их математическому ожиданию и дисперсии .
Чему равна оценка дисперсии элемента b1 вектора b.
Эконометрический инструментарий базируется на методах и моделях
Если для случайных ошибок справедливо равенство для всех i=1,2,…,n, то это свидетельствует:
В чем состоит условие гомоскедастичности в регрессионной модели временного ряда, если :
При исследовании зависимости себестоимости продукции y от объема выпуска x1 и производительности труда x2
по данным n=20 предприятий получено уравнение регрессии и среднеквадратические отклонения коэффициентов регрессии: и . Определите с д оверительной вероятностью ?=0,99, на какую величину максимально может измениться себестоимость продукции y, если объем производства увеличить на единицу:
Статистика критерия для проверки значимости коэффициента регрессии имеет вид:
График выборочной автокорреляционной функции называется
Согласно методу наименьших квадратов для получения оценок b 0 и b 1 минимизируется:
В регрессионном анализе математическое ожидание и дисперсия регрессионных остатков , отвечают следующим требованиям:
В чем условие гетероскедастичности в регрессионной модели временного ряда, если :
Если качественная независимая переменная принимает m значений, то необходимо определить:
По данным n=15 фирм исследована зависимость прибыли y от числа работающих x вида была получена оценка остаточной дисперсии и обратная матрица . Определите, чему равна дисперсия оценки коэффициента регрессии :
Параметр b в степенной модели является:
Трехшаговый метод наименьших квадратов – это метод:
Степень адекватности модели при оценки двухшаговым методом наименьших квадратов считается тем больше, чем:
Гетероскедастичность заключается в том, что дисперсия случайного члена регрессии __________наблюдений
Модель скользящей средней имеет вид
Задача исследования зависимости одной зависимой переменной от нескольких объединяющих переменных решается с помощью
К нелинейным моделям по параметрам относятся модели
Если F-статистика Фишера превысит критическое значение Fкрит, то регрессия считается
Стандартизованный коэффициент регрессии показывает
Стандартизованный коэффициент регрессии показывает
Стандартизованный коэффициент регрессии показывает
Необходимо исследовать зависимость между результатами письменных вступительных и курсовых экзаменов по математике. Получены следующие данные о числе решенных задач на вступительных экзаменах X (задание – 10 задач) и курсовых экзаменах Y (задания – 7 задач) 12 студентов, а также распределение этих студентов по фактору «пол»: Тогда линейная регрессивная модель Y по X с использованием фиктивной переменной по фактору пол имеет вид
№ студентаЧисло решенных задачПол студента№ студентаЧисло решенных задачПол студента
Рассчитывать параметры парной линейной регрессии можно, если у нас есть:
Фиктивными называют переменные:
Статистической (или стохастической, вероятностной) получила название зависимость
Если для случайных ошибок справедливо равенство , для всех i=1,2,…,n, то это свидетельствует:
Верхнее число степеней свободы F-статистики в случае парной регрессии равно
Экономико-математическая модель становится эконометрической, если
Какое уравнение регрессии нельзя свести к линейному виду:
Корреляционной зависимостью между двумя переменными называется
Реальные экономические объекты, исследуемые с помощью эконометрических методов,описываются с помощью
Наиболее наглядным видом выбора уравнения парной регрессии является:
Выборочным уравнением регрессии называется уравнение
Коэффициент корреляции может принимать значения:
Остаточная сумма квадратов равна нулю:
Корреляционная зависимость может быть представлена в виде
Объясненная (факторная) сумма квадратов отклонений в линейной парной модели имеет число степеней свободы, равное:
Добавление в уравнение множественной регрессии новой объясняющей переменной:
С помощью обратной матрицы определяется
С увеличением числа объясняющих переменных скорректированный коэффициентдетерминации:
Для реализации двухшагового метода наименьших квадратов необходимо, чтобы:
Для получения эффективной оценки вектора b используют
Наилучший способ устранения автокорреляции – установление ответственного за нее фактора и включение соответствующей ___________ переменной в регрессию
Значение статистики Дарбина – Уотсона находится между значениями
Автокорреляция первого порядка – ситуация, когда случайный член Uк коррелирует с
Коэффициент a 1 уравнения вычисляется по формуле:
Уравнению регрессии соответствует множественный коэффициент корреляции . Какая доля вариации результативного показателя y (%) объясняется входящими в уравнение регрессии переменными х1 и х2 :
Свойство постоянства дисперсий ошибок регрессии называется гомоскедастичностью,Классическая нормальная линейная регрессионная модель имеет вид
Какое из уравнений является степенным:
Модельным уравнением регрессии называется уравнение
Если все наблюдения лежат на линии регрессии, то коэффициент детерминации R 2 для модели парной регрессии равен
Суть коэффициента детерминации состоит в следующем:
Общая сумма квадратов отклонений в линейной парной модели имеет число степеней свободы, равное:
Переменная Y, имеющая при заданных значениях факторов некоторое распределение называется
С помощью обратной матрицы определяется
С помощью обратной матрицы определяется
Множественный коэффициент корреляции . Определите, какой процент дисперсии зависимой переменной объясняется влиянием факторов x1 и x2:
Если для случайных ошибок справедливо равенство для всех i=1,2,…,n, то это свидетельствует:
Уравнением линейной парной регрессии является уравнение:
На экзамене в группе из 15 студентов 4 человека получили отличную оценку, 8 человек- оценку хорошо, 3 человека – оценку удовлетворительно. Средний бал по группе равен:
На основании наблюдений за 50 семьями построено уравнение регрессии y =284,56+0,672 x где y – потребление, x – доход. Соответствуют ли знаки и значения коэффициентов регрессии теоретическим представлениям?
Временным динамическим рядом называется выборка наблюдений, в которой важны
Параметр называется __________, если косвенный метод наименьших квадратов дает несколько его оценок
Уравнение регрессии линейное, если
Суть коэффициента детерминации состоит в следующем:
Пусть имеются условные данные о средних расходах на конечное потребление (yt , денежных единиц) за 8 лет.
Эконометрическая модель имеет вид
Коэффициент a 1 уравнения равен своему математическому ожиданию, если:
По данным таблицы найдите уравнение регрессии Y по XМодель множественной регрессии можно представить в виде
Модель распределенных лагов имеет вид
Модель авторегрессии и распределенных лагов имеет вид
Какое из следующих уравнений нелинейно по оцениваемым параметрам:
Границы интервальной оценки свободного члена уравнения регрессии отстоят от точечной оценки на величину, не превышающую:
В хорошо подобранной модели остатки должны (выберите необходимые пункты):
Коэффициент a1 уравнения Yi = a 0 + a 1 Xi + et равен своему математическому ожиданию, если:
Уравнению регрессии соответствует множественный коэффициент корреляции . Какая доля вариации результативного показателя y (%) объясняется входящими в уравнение регрессии переменными х1 и х2 :
При исследовании зависимости себестоимости продукции y от объема выпуска x1 и производительности труда x2
по данным n=20 предприятий получено уравнение регрессии и среднеквадратические отклонения коэффициентов регрессии: и .
увеличить на 1%, учитывая при этом, что :
Выборочный частный коэффициент корреляции вычисляется по формуле
Скорректированный коэффициент детерминации:
Приведенная форма системы одновременных уравнений имеет вид:
Если при оценке __________ уравнения в качестве инструментальных переменных используются экзогенные переменные, то получаемые при этом оценки совпадают с оценками косвенного метода наименьших квадратов
Коэффициент a1 уравнения Yi = a 0 + a 1 Xi + et вычисляется по формуле:
Для решения одновременных уравнений применяется
Коэффициент детерминации при двухшаговом методе наименьших квадратов может быть:
Кейнсианская модель формирования доходов является
МНКдает__________дляданнойвыборкизначениекоэффициентадетерминацииR2
Мультипликативнаястепеннаямодельлегкосводитсяклинейнойпутем___________обеихчастейуравнения
С помощью обратной матрицы определяется
Сувеличениемчислаобъясняющихпеременныхскорректированныйкоэффициентдетерминации:
F-статистика для____________является вточности квадратом t-статистики дляrx,y
Привысокомуровнезначимостипроблемазаключаетсяввысокомрискедопущения
Поданным таблицы коэффициент эластичности равен
Граничноезначениеобластипринятиягипотезысp%-нойвероятностьюсовершитьошибкуIродаопределяется__________приp-процентномуровнеСкорректированныйкоэффициентдетерминациивычисляетсяпоформуле
Стандартизованные коэффициенты регрессии:
Явление, когда строгая линейная зависимость между переменными приводит к невозможности применения МНК, называется
Для функции Кобба-Дугласа у=100k 1/3 ×i 2/3 эластичность выпуска продукции по капиталу равна
Для функции Кобба-Дугласа у=100k1/3?i2/3 эластичность выпуска продукции по капиталу равна
Модель оказывается с математической точки зрения предпочтительней модели , если выполняется условие
Если , то значение a 1 будет:
Если , то значение a 1 будет:
Уравнение идентифицируемо, если:
Приведенная форма Кейнсианской модели имеет вид
Лаговые переменные – это:
Уравнение неидентифицируемо, если:
Общий вид системы одновременных уравнений представляется в матричной форме как
Тождества, которые содержатся в системе одновременных уравнений, имеют вид:
Для определения параметров сверхидентифицируемой модели:
Модель идентифицируема, если:
Второе условие Гаусса – Маркова предполагает, что дисперсия случайного члена __________ в каждом наблюдении
Для определения параметров неидентифицируемой модели:
Приведенная система одновременных уравнений имеет вид:
Если система идентифицируема, и количество экзогенных переменных Х совпадает с количеством эндогенных переменных Y, оценки двушагового метода совпадают с оценками ___________ метода наименьших квадратов
Экономический временной ряд – это ряд, который
В модели множественной регрессии за изменение _________ регрессии отвечает несколько объясняющих переменных
Временной ряд в виде аддитивной модели имеет вид
Модель с распределением Койка лаговых объясняющих переменных имеет вид
Поправка Прайса – Уинстена – метод спасения ________________ в автокорреляционной схеме первого порядка
Прогноз развития на основе экстраполяция временных рядов является эффективным в рамках _________ периода прогнозирования
Временной (динамический) ряд имеет вид
Временной (динамический) ряд имеет вид
Автоковариация k-го порядка временного ряда Yt вычисляется по формуле
Модель авторегрессии возмущения или автокорреляция временного ряда имеет вид
Третье условие Гаусса – Маркова состоит в том, что cov(ui,uj) = 0, если
Мультипликативная степенная модель легко сводится к линейной путем ___________ обеих частей уравнения
Число степеней свободы для остаточной суммы квадратов в линейной модели множественной регрессии равно:
Граничное значение области принятия гипотезы с p%-ной вероятностью совершить ошибку I рода определяется __________при p-процентном уровне значимости
При высоком уровне значимости проблема заключается в высоком риске допущения
Для построения модели линейной множественной регрессии вида y = a + b 1 x 1 + b 2 x 2 необходимое количество наблюдений должно быть не менее:
Для построения модели линейной множественной регрессии вида необходимое количество наблюдений должно быть не менее:
Для построения модели линейной множественной регрессии вида необходимое количество наблюдений должно быть не менее:
Множественный коэффициент корреляции . Определите, какой процент дисперсии зависимой переменной объясняется влиянием факторов x1 и x2:
Второе условие Гаусса – Маркова заключается в том, что
Коэффициент детерминации определяется по формуле
Скорректированный коэффициент детерминации вычисляется по формуле
При выборе спецификации модели следует руководствоваться ________ анализом
Структурный параметр называется _________, если он может быть однозначно оценен с помощью косвенного метода наименьших квадратов
В двухшаговом методе наименьших квадратов оценки обладают свойствами:
Уравнение сверхидентифицируемо, если:
Функция Кобба – Дугласа имеет вид Y =
Модель оказывается предпочтительней модели _______, если скорректированный коэффициент детерминации при удалении регрессоров Z увеличивается
Системы одновременных или регрессионных уравнений используются, когда
Тест Чоу применяют:
Гетероскедастичность ошибок в регрессионных моделях означает, что они имеют:
По данным n=15 фирм исследована зависимость прибыли y от числа работающих x вида была получена оценка остаточной дисперсии и обратная матрица Определите, чему равна при доверительной вероятности ?=0.95 верхняя граница интервальной оценки коэффициента регрессии при х :
По данным n=15 фирм исследована зависимость прибыли y от числа работающих x вида была получена оценка остаточной дисперсии и обратная матрица Определите, чему равна при доверительной вероятности γ=0.95 верхняя граница интервальной оценки коэффициента регрессии при х :
Для моделей с переменной структурой характерно следующее:
Могут ли фиктивные переменные применяться для моделирования сезонных колебаний:
Границы интервальной оценки коэффициента регрессии отстоят от точечной оценки на величину, не превышающую:
Если в уравнении регрессии увеличить x на единицу, то в результате этого yв среднем изменится на величину:
Среднее арифметическое значения временного ряда имеет вид
Производственная функция Кобба-Дугласа имеет вид
Мультиколлинеарность в эконометрических исследованиях чаще проявляется
Число степеней свободы для общей суммы квадратов в линейной модели множественной регрессии равно:
Стандартизованные коэффициенты регрессии β i :
По таблице найти скорректированный коэффициент детерминации
Переменные, формирующие внутри функционирования объекта, называются
Для получения достоверных данных о распределении какой-либо случайной величины, необходимо иметь
Набор показателей экономических переменных, полученных в данный момент времени называются
Качество модели из относительных отклонений по каждому наблюдению оценивает:
Если случайная величина принимает значения Х1….,Хn с вероятностями Р1. Рn соответственно, то математическое ожидание случайной величины —
Коэффициент корреляции может принимать значения:
Коэффициент корреляции rxy может принимать значения:
На основе поквартальных данных построена аддитивная модель временного ряда. Скорректированные значения сезонной компоненты за первые три квартала равны: 7 – I квартал, 9 – II квартал и –11 – III квартал. Значение сезонной компоненты за IV квартал есть:
Модель с распределением Койка лаговых объясняющих переменных оценивается с помощью
Временной ряд в виде мультипликативной модели имеет вид
Экономический временной ряд отличается от технологического тем, что
Статические характеристики временного лага
Аддитивная модель временного ряда строится, если:
Модель авторегрессии и проинтегрированного скользящего среднего имеет вид
Мультипликативная модель временного ряда строится, если:
Функция Кобба – Дугласа называется
Модель сосредоточенного лага имеет вид
Тесты на гетероскедастичность – это
Для регрессии второго порядка y= 12+7x1-3x2 отклонение от регрессии наблюдения (х1=2, х2=1, y=20) равно
При проведении теста Голдфелда – Квандта из рассмотрения исключаются ______ наблюдений
Временной лаг — это
При применении взвешенного метода наименьших квадратов используется формула
Модель авторегрессии и скользящей средней имеет вид
Дисперсия временного ряда вычисляется по формуле
Авторегрессионная модель первого порядка имеет вид
Модели временных рядов – это
График зависимости автокорреляционной функции временного ряда от величины лага называется
Автокорреляция k-го порядка временного ряда Yt — коэффициент корреляции вычисляется по формуле
Для модели потребления Фридмена могут быть применены
Коэффициент автокорреляции для таблицы по 6-ти пар наблюдений
Число степеней свободы для t-статистики равно числу наблюдений в выборке __________ количество оцениваемых коэффициентов
При использовании уровня значимости, равного 5%, истинная гипотеза отвергается в _____ случаев
Стандартное отклонение оценки b для параметра β вычисляется по формуле
Утверждение о том, что неизвестный параметр модели принадлежит заданному множеству А, называется
Точность оценок по МНК улучшается, если увеличивается
Оценка стандартного отклонения случайной величины, полученная по данным выборки, называется стандартной ___________ случайной величины
Эксперимент по методу Монте-Карло – искусственный, контролируемый эксперимент, проводимый для проверки и сравнения эффективности различных
Оценивание каждого параметра в уравнении регрессии поглощает _________ свободы в выборке
Второй шаг метода Зарембки заключается в пересчете наблюдений y в новые
По данным таблицы коэффициент эластичности равенЕсли наблюдаемое значение F-статистики при тестировании гипотезы оказывается меньше 1, то модель ______ оказывается предпочтительнее чем, модель
Если наблюдаемое значение F-статистики при тестировании гипотезы y = 0 оказывается меньше 1, то модель ______ оказывается предпочтительнее чем, модель Y = X β + Zy +ɛ
Экзогенные переменные – это:
Если ∑( Xi ɛ i ) ≠ 0, то значение a1 будет:
Отличия экзогенных переменных от эндогенных заключается в том, что они
Наибольшее распространение в эконометрических исследованиях получили:
Проблема, связанная со смещением оценки коэффициентов регрессии, в одном случае, или с утратой эффективности этих оценок в другом случае неправильной спецификации переменных, перестает существовать, если коэффициент парной корреляции между переменными равен
Чем больше число наблюдений, тем __________ зона неопределенности для критерия Дарбина – Уотсона
Модель сверхидентифицируема, если:
Эффективная процедура оценивания систем регрессионных уравнений сочетает метод одновременного оценивания и метод интсрументальных переменных, и при этом называется
Параметр, для которого существует несколько способов выражения через коэффициенты приведенной формы, называется
Переменные, которые формируются внутри модели называются
структурный параметр называется ___________, если его значение невозможно получить, даже зная точные значения параметров приведенной формы
Для определения параметров точно идентифицируемой модели:
Модель неидентифицируема, если:
Тест ранговой корреляции Спирмена – тест на
Фиктивную переменную для коэффициента наклона вводят как ____________ фиктивной переменной, отвечающей за исследуемую категорию, и интересующей нефиктивной переменной
Автокорреляция – нарушение ___________ условия Гаусса – Маркова
Эндогенные переменные – это:
Аддитивная модель временного ряда имеет вид:
На первом этапе применения теста Голдфелда – Квандта в выборке все наблюдения
Авторегрессионная модель скользящей средней порядков p и q соответственно имеет вид
Тесты по определения автокорреляции между соседними членами – это
В обобщенной линейной модели в отличие от классической модели ковариация и дисперсия объясняющих переменных могут быть
На основе поквартальных данных построена мультипликативная модель временного ряда. Скорректированные значения сезонной компоненты за первые три квартала равны: 0,8 – I квартал, 1,2 – II квартал и 1,3 – III квартал. Значение сезонной компоненты за IV квартал есть:
Использование автокорреляционных остатков
Члены временного ряда __________ одинаково распределенными
Построение аддитивной и мультипликативной моделей сводится к расчету значений
Модель скользящей средней q-го порядка имеет вид
Мультипликативная модель временного ряда имеет вид:
Критерий Дарбина-Уотсона применяется для:
Коэффициент, который измеряет корреляцию между членами одного и того же ряда называется
Коэффициент автокорреляции:
Число периодов, по которым рассчитывают коэффициент автокорреляции называется
Метод наименьших квадратов — метод нахождения оценок параметров регрессии, основанный на минимизации _______ квадратов остатков всех наблюдений
Переменные, задаваемые извне называются
Значимость уравнения регрессии в целом оценивает:
Коэффициент наклона в уравнении линейной регрессии показывает ___________изменяется y при увеличении x на одну единицу
Эффективная оценка – несмещенная оценка, имеющая ______________ среди всех несмещенных оценок
Необходимость применения специальных статистических методов для обработки экономической информации вызвана ________ данных
Всю совокупность реализаций случайной величины называют __________совокупностью
Объясняющие переменные могут считаться детерминированными, если они принимают
Некоррелированность возмущений независимых случайных величин выражается уравнением
Для функции y = a + b / x + ε средний коэффициент эластичности имеет вид:
Для функции средний коэффициент эластичности имеет вид:
Разность между математическим ожиданием оценки и истинным значением оцениваемого параметра называют____________________
Стандартное отклонение случайной величины характеризует среднее ожидаемое расстояние между наблюдениями этой случайной величины и ее
Классический метод к оцениванию параметров регрессии основан на:
Задачами регрессионного анализа являются
Мерой разброса значений случайной величины служит
Значение оценки является ____________
Коэффициент линейного парного уравнения регрессии:
В эконометрической модели объясненная часть – это
По данным таблицы коэффициент корреляции равен
Логарифмическое преобразование позволяет осуществить переход от нелинейной модели y = 5x2u к модели
Критерий Г. Чоу может быть использован при построении регрессионных моделей при воздействии ________________ признаков
При вычислении t-статистики применяется распределение____________
Показатель выборочной ковариации позволяет выразить связь между двумя переменными
Для функции y = 4x 0,2 , эластичность равна_________
Способ оценивания (estimator) – общее правило для получения _____________ какого-либо параметра по данным выборки
Невыполнение 2 и 3 условий Гаусса – Маркова, приводит к потере свойства_________оценок
При использовании метода Монте-Карло результаты наблюдения генерируются с помощью :
Тест Бокса – Кокса (решетчатый поиск) – прямой компьютерный метод выбора наилучших значений ______________ модели в заданных исследователем пределах с заданным шагом (решеткой):
Если из экономических соображений известно, что β ≥ β0 , то нулевая гипотеза отвергается только при
t-статистика для коэффициента корреляции r определяется как
По четырем предприятиям региона (см. табл.) изучается зависимость выработки продукции на одного работника y (тыс. руб.) от ввода в действие новых основных фондов х2(% от стоимости фондов на конец года) и от удельного веса рабочих высокой квалификации в общей численности рабочих х1 (%), тогда уравнение множественной регрессии имеет вид
Видео:Эконометрика Линейная регрессия и корреляцияСкачать
Простая линейная регрессия в EXCEL
history 26 января 2019 г.
- Группы статей
- Статистический анализ
Регрессия позволяет прогнозировать зависимую переменную на основании значений фактора. В MS EXCEL имеется множество функций, которые возвращают не только наклон и сдвиг линии регрессии, характеризующей линейную взаимосвязь между факторами, но и регрессионную статистику. Здесь рассмотрим простую линейную регрессию, т.е. прогнозирование на основе одного фактора.
Disclaimer : Данную статью не стоит рассматривать, как пересказ главы из учебника по статистике. Статья не обладает ни полнотой, ни строгостью изложения положений статистической науки. Эта статья – о применении MS EXCEL для целей Регрессионного анализа. Теоретические отступления приведены лишь из соображения логики изложения. Использование данной статьи для изучения Регрессии – плохая идея.
Статья про Регрессионный анализ получилась большая, поэтому ниже для удобства приведены ее разделы:
Примечание : Если прогнозирование переменной осуществляется на основе нескольких факторов, то имеет место множественная регрессия .
Чтобы разобраться, чем может помочь MS EXCEL при проведении регрессионного анализа, напомним вкратце теорию, введем термины и обозначения, которые могут отличаться в зависимости от различных источников.
Примечание : Для тех, кому некогда, незачем или просто не хочется разбираться в теоретических выкладках предлагается сразу перейти к вычислительной части — оценке неизвестных параметров линейной модели .
Видео:Эконометрика. Множественная регрессия и корреляция.Скачать
Немного теории и основные понятия
Пусть у нас есть массив данных, представляющий собой значения двух переменных Х и Y. Причем значения переменной Х мы можем произвольно задавать (контролировать) и использовать эту переменную для предсказания значений зависимой переменной Y. Таким образом, случайной величиной является только переменная Y.
Примером такой задачи может быть производственный процесс изготовления некого волокна, причем прочность этого волокна (Y) зависит только от рабочей температуры процесса в реакторе (Х), которая задается оператором.
Построим диаграмму рассеяния (см. файл примера лист Линейный ), созданию которой посвящена отдельная статья . Вообще, построение диаграммы рассеяния для целей регрессионного анализа де-факто является стандартом.
СОВЕТ : Подробнее о построении различных типов диаграмм см. статьи Основы построения диаграмм и Основные типы диаграмм .
Приведенная выше диаграмма рассеяния свидетельствует о возможной линейной взаимосвязи между Y от Х: очевидно, что точки данных в основном располагаются вдоль прямой линии.
Примечание : Наличие даже такой очевидной линейной взаимосвязи не может являться доказательством о наличии причинной взаимосвязи переменных. Наличие причинной взаимосвязи не может быть доказано на основании только анализа имеющихся измерений, а должно быть обосновано с помощью других исследований, например теоретических выкладок.
Примечание : Как известно, уравнение прямой линии имеет вид Y = m * X + k , где коэффициент m отвечает за наклон линии ( slope ), k – за сдвиг линии по вертикали ( intercept ), k равно значению Y при Х=0.
Предположим, что мы можем зафиксировать переменную Х ( рабочую температуру процесса ) при некотором значении Х i и произвести несколько наблюдений переменной Y ( прочность нити ). Очевидно, что при одном и том же значении Хi мы получим различные значения Y. Это обусловлено влиянием других факторов на Y. Например, локальные колебания давления в реакторе, концентрации раствора, наличие ошибок измерения и др. Предполагается, что воздействие этих факторов имеет случайную природу и для каждого измерения имеются одинаковые условия проведения эксперимента (т.е. другие факторы не изменяются).
Полученные значения Y, при заданном Хi, будут колебаться вокруг некого значения . При увеличении количества измерений, среднее этих измерений, будет стремиться к математическому ожиданию случайной величины Y (при Х i ) равному μy(i)=Е(Y i ).
Подобные рассуждения можно привести для любого значения Хi.
Чтобы двинуться дальше, воспользуемся материалом из раздела Проверка статистических гипотез . В статье о проверке гипотезы о среднем значении генеральной совокупности в качестве нулевой гипотезы предполагалось равенство неизвестного значения μ заданному μ0.
В нашем случае простой линейной регрессии в качестве нулевой гипотезы предположим, что между переменными μy(i) и Хi существует линейная взаимосвязь μ y(i) =α* Х i +β. Уравнение μ y(i) =α* Х i +β можно переписать в обобщенном виде (для всех Х и μ y ) как μ y =α* Х +β.
Для наглядности проведем прямую линию соединяющую все μy(i).
Данная линия называется регрессионной линией генеральной совокупности (population regression line), параметры которой ( наклон a и сдвиг β ) нам не известны (по аналогии с гипотезой о среднем значении генеральной совокупности , где нам было неизвестно истинное значение μ).
Теперь сделаем переход от нашего предположения, что μy=a* Х + β , к предсказанию значения случайной переменной Y в зависимости от значения контролируемой переменной Х. Для этого уравнение связи двух переменных запишем в виде Y=a*X+β+ε, где ε — случайная ошибка, которая отражает суммарный эффект влияния других факторов на Y (эти «другие» факторы не участвуют в нашей модели). Напомним, что т.к. переменная Х фиксирована, то ошибка ε определяется только свойствами переменной Y.
Уравнение Y=a*X+b+ε называют линейной регрессионной моделью . Часто Х еще называют независимой переменной (еще предиктором и регрессором , английский термин predictor , regressor ), а Y – зависимой (или объясняемой , response variable ). Так как регрессор у нас один, то такая модель называется простой линейной регрессионной моделью ( simple linear regression model ). α часто называют коэффициентом регрессии.
Предположения линейной регрессионной модели перечислены в следующем разделе.
Видео:Эконометрика. Оценка значимости уравнения регрессии. Критерий ФишераСкачать
Предположения линейной регрессионной модели
Чтобы модель линейной регрессии Yi=a*Xi+β+ε i была адекватной — требуется:
- Ошибки ε i должны быть независимыми переменными;
- При каждом значении Xi ошибки ε i должны быть иметь нормальное распределение (также предполагается равенство нулю математического ожидания, т.е. Е[ε i ]=0);
- При каждом значении Xi ошибки ε i должны иметь равные дисперсии (обозначим ее σ 2 ).
Примечание : Последнее условие называется гомоскедастичность — стабильность, гомогенность дисперсии случайной ошибки e. Т.е. дисперсия ошибки σ 2 не должна зависеть от значения Xi.
Используя предположение о равенстве математического ожидания Е[ε i ]=0 покажем, что μy(i)=Е[Yi]:
Е[Yi]= Е[a*Xi+β+ε i ]= Е[a*Xi+β]+ Е[ε i ]= a*Xi+β= μy(i), т.к. a, Xi и β постоянные значения.
Дисперсия случайной переменной Y равна дисперсии ошибки ε, т.е. VAR(Y)= VAR(ε)=σ 2 . Это является следствием, что все значения переменной Х являются const, а VAR(ε)=VAR(ε i ).
Видео:Эконометрика. Оценка значимости параметров уравнения регрессии. Критерий Стьюдента.Скачать
Задачи регрессионного анализа
Для проверки гипотезы о линейной взаимосвязи переменной Y от X делают выборку из генеральной совокупности (этой совокупности соответствует регрессионная линия генеральной совокупности , т.е. μy=a* Х +β). Выборка будет состоять из n точек, т.е. из n пар значений .
На основании этой выборки мы можем вычислить оценки наклона a и сдвига β, которые обозначим соответственно a и b . Также часто используются обозначения â и b̂.
Далее, используя эти оценки, мы также можем проверить гипотезу: имеется ли линейная связь между X и Y статистически значимой?
Первая задача регрессионного анализа – оценка неизвестных параметров ( estimation of the unknown parameters ). Подробнее см. раздел Оценки неизвестных параметров модели .
Вторая задача регрессионного анализа – Проверка адекватности модели ( model adequacy checking ).
Примечание : Оценки параметров модели обычно вычисляются методом наименьших квадратов (МНК), которому посвящена отдельная статья .
Видео:Коэффициент корреляции. Статистическая значимостьСкачать
Оценка неизвестных параметров линейной модели (используя функции MS EXCEL)
Неизвестные параметры простой линейной регрессионной модели Y=a*X+β+ε оценим с помощью метода наименьших квадратов (в статье про МНК подробно описано этот метод ).
Для вычисления параметров линейной модели методом МНК получены следующие выражения:
Таким образом, мы получим уравнение прямой линии Y= a *X+ b , которая наилучшим образом аппроксимирует имеющиеся данные.
Примечание : В статье про метод наименьших квадратов рассмотрены случаи аппроксимации линейной и квадратичной функцией , а также степенной , логарифмической и экспоненциальной функцией .
Оценку параметров в MS EXCEL можно выполнить различными способами:
Сначала рассмотрим функции НАКЛОН() , ОТРЕЗОК() и ЛИНЕЙН() .
Пусть значения Х и Y находятся соответственно в диапазонах C 23: C 83 и B 23: B 83 (см. файл примера внизу статьи).
Примечание : Значения двух переменных Х и Y можно сгенерировать, задав тренд и величину случайного разброса (см. статью Генерация данных для линейной регрессии в MS EXCEL ).
В MS EXCEL наклон прямой линии а ( оценку коэффициента регрессии ), можно найти по методу МНК с помощью функции НАКЛОН() , а сдвиг b ( оценку постоянного члена или константы регрессии ), с помощью функции ОТРЕЗОК() . В английской версии это функции SLOPE и INTERCEPT соответственно.
Аналогичный результат можно получить с помощью функции ЛИНЕЙН() , английская версия LINEST (см. статью об этой функции ).
Формула =ЛИНЕЙН(C23:C83;B23:B83) вернет наклон а . А формула = ИНДЕКС(ЛИНЕЙН(C23:C83;B23:B83);2) — сдвиг b . Здесь требуются пояснения.
Функция ЛИНЕЙН() имеет 4 аргумента и возвращает целый массив значений:
ЛИНЕЙН(известные_значения_y; [известные_значения_x]; [конст]; [статистика])
Если 4-й аргумент статистика имеет значение ЛОЖЬ или опущен, то функция ЛИНЕЙН() возвращает только оценки параметров модели: a и b .
Примечание : Остальные значения, возвращаемые функцией ЛИНЕЙН() , нам потребуются при вычислении стандартных ошибок и для проверки значимости регрессии . В этом случае аргумент статистика должен иметь значение ИСТИНА.
Чтобы вывести сразу обе оценки:
- в одной строке необходимо выделить 2 ячейки,
- ввести формулу в Строке формул
- нажать CTRL+SHIFT+ENTER (см. статью про формулы массива ).
Если в Строке формул выделить формулу = ЛИНЕЙН(C23:C83;B23:B83) и нажать клавишу F9 , то мы увидим что-то типа . Это как раз значения a и b . Как видно, оба значения разделены точкой с запятой «;», что свидетельствует, что функция вернула значения «в нескольких ячейках одной строки».
Если требуется вывести параметры линии не в одной строке, а одном столбце (ячейки друг под другом), то используйте формулу = ТРАНСП(ЛИНЕЙН(C23:C83;B23:B83)) . При этом выделять нужно 2 ячейки в одном столбце. Если теперь выделить новую формулу и нажать клавишу F9, то мы увидим что 2 значения разделены двоеточием «:», что означает, что значения выведены в столбец (функция ТРАНСП() транспонировала строку в столбец ).
Чтобы разобраться в этом подробнее необходимо ознакомиться с формулами массива .
Чтобы не связываться с вводом формул массива , можно использовать функцию ИНДЕКС() . Формула = ИНДЕКС(ЛИНЕЙН(C23:C83;B23:B83);1) или просто ЛИНЕЙН(C23:C83;B23:B83) вернет параметр, отвечающий за наклон линии, т.е. а . Формула =ИНДЕКС(ЛИНЕЙН(C23:C83;B23:B83);2) вернет параметр b .
Видео:Коэффициент линейной регрессии, 2 способаСкачать
Оценка неизвестных параметров линейной модели (через статистики выборок)
Наклон линии, т.е. коэффициент а , можно также вычислить через коэффициент корреляции и стандартные отклонения выборок :
= КОРРЕЛ(B23:B83;C23:C83) *(СТАНДОТКЛОН.В(C23:C83)/ СТАНДОТКЛОН.В(B23:B83))
Вышеуказанная формула математически эквивалентна отношению ковариации выборок Х и Y и дисперсии выборки Х:
И, наконец, запишем еще одну формулу для нахождения сдвига b . Воспользуемся тем фактом, что линия регрессии проходит через точку средних значений переменных Х и Y.
Вычислив средние значения и подставив в формулу ранее найденный наклон а , получим сдвиг b .
Видео:Уравнение линейной регрессии. Интерпретация стандартной табличкиСкачать
Оценка неизвестных параметров линейной модели (матричная форма)
Также параметры линии регрессии можно найти в матричной форме (см. файл примера лист Матричная форма ).
В формуле символом β обозначен столбец с искомыми параметрами модели: β0 (сдвиг b ), β1 (наклон a ).
Матрица Х равна:
Матрица Х называется регрессионной матрицей или матрицей плана . Она состоит из 2-х столбцов и n строк, где n – количество точек данных. Первый столбец — столбец единиц, второй – значения переменной Х.
Матрица Х T – это транспонированная матрица Х . Она состоит соответственно из n столбцов и 2-х строк.
В формуле символом Y обозначен столбец значений переменной Y.
Чтобы перемножить матрицы используйте функцию МУМНОЖ() . Чтобы найти обратную матрицу используйте функцию МОБР() .
Пусть дан массив значений переменных Х и Y (n=10, т.е.10 точек).
Слева от него достроим столбец с 1 для матрицы Х.
и введя ее как формулу массива в 2 ячейки, получим оценку параметров модели.
Красота применения матричной формы полностью раскрывается в случае множественной регрессии .
Видео:Расстановка коэффициентов в окислительно-восстановительных реакцияхСкачать
Построение линии регрессии
Для отображения линии регрессии построим сначала диаграмму рассеяния , на которой отобразим все точки (см. начало статьи ).
Для построения прямой линии используйте вычисленные выше оценки параметров модели a и b (т.е. вычислите у по формуле y = a * x + b ) или функцию ТЕНДЕНЦИЯ() .
Формула = ТЕНДЕНЦИЯ($C$23:$C$83;$B$23:$B$83;B23) возвращает расчетные (прогнозные) значения ŷi для заданного значения Хi из столбца В2 .
Примечание : Линию регрессии можно также построить с помощью функции ПРЕДСКАЗ() . Эта функция возвращает прогнозные значения ŷi, но, в отличие от функции ТЕНДЕНЦИЯ() работает только в случае одного регрессора. Функция ТЕНДЕНЦИЯ() может быть использована и в случае множественной регрессии (в этом случае 3-й аргумент функции должен быть ссылкой на диапазон, содержащий все значения Хi для выбранного наблюдения i).
Как видно из диаграммы выше линия тренда и линия регрессии не обязательно совпадают: отклонения точек от линии тренда случайны, а МНК лишь подбирает линию наиболее точно аппроксимирующую случайные точки данных.
Линию регрессии можно построить и с помощью встроенных средств диаграммы, т.е. с помощью инструмента Линия тренда. Для этого выделите диаграмму, в меню выберите вкладку Макет , в группе Анализ нажмите Линия тренда , затем Линейное приближение. В диалоговом окне установите галочку Показывать уравнение на диаграмме (подробнее см. в статье про МНК ).
Построенная таким образом линия, разумеется, должна совпасть с ранее построенной нами линией регрессии, а параметры уравнения a и b должны совпасть с параметрами уравнения отображенными на диаграмме.
Примечание: Для того, чтобы вычисленные параметры уравнения a и b совпадали с параметрами уравнения на диаграмме, необходимо, чтобы тип у диаграммы был Точечная, а не График , т.к. тип диаграммы График не использует значения Х, а вместо значений Х используется последовательность 1; 2; 3; . Именно эти значения и берутся при расчете параметров линии тренда . Убедиться в этом можно если построить диаграмму График (см. файл примера ), а значения Хнач и Хшаг установить равным 1. Только в этом случае параметры уравнения на диаграмме совпадут с a и b .
Видео:1. Уравнение плоскости проходящей через точку перпендикулярно вектору / общее уравнение / примерыСкачать
Коэффициент детерминации R 2
Коэффициент детерминации R 2 показывает насколько полезна построенная нами линейная регрессионная модель .
Предположим, что у нас есть n значений переменной Y и мы хотим предсказать значение yi, но без использования значений переменной Х (т.е. без построения регрессионной модели ). Очевидно, что лучшей оценкой для yi будет среднее значение ȳ. Соответственно, ошибка предсказания будет равна (yi — ȳ).
Примечание : Далее будет использована терминология и обозначения дисперсионного анализа .
После построения регрессионной модели для предсказания значения yi мы будем использовать значение ŷi=a*xi+b. Ошибка предсказания теперь будет равна (yi — ŷi).
Теперь с помощью диаграммы сравним ошибки предсказания полученные без построения модели и с помощью модели.
Очевидно, что используя регрессионную модель мы уменьшили первоначальную (полную) ошибку (yi — ȳ) на значение (ŷi — ȳ) до величины (yi — ŷi).
(yi — ŷi) – это оставшаяся, необъясненная ошибка.
Очевидно, что все три ошибки связаны выражением:
(yi — ȳ)= (ŷi — ȳ) + (yi — ŷi)
Можно показать, что в общем виде справедливо следующее выражение:
или в других, общепринятых в зарубежной литературе, обозначениях:
Total Sum of Squares = Regression Sum of Squares + Error Sum of Squares
Примечание : SS — Sum of Squares — Сумма Квадратов.
Как видно из формулы величины SST, SSR, SSE имеют размерность дисперсии (вариации) и соответственно описывают разброс (изменчивость): Общую изменчивость (Total variation), Изменчивость объясненную моделью (Explained variation) и Необъясненную изменчивость (Unexplained variation).
По определению коэффициент детерминации R 2 равен:
R 2 = Изменчивость объясненная моделью / Общая изменчивость.
Этот показатель равен квадрату коэффициента корреляции и в MS EXCEL его можно вычислить с помощью функции КВПИРСОН() или ЛИНЕЙН() :
R 2 принимает значения от 0 до 1 (1 соответствует идеальной линейной зависимости Y от Х). Однако, на практике малые значения R2 вовсе не обязательно указывают, что переменную Х нельзя использовать для прогнозирования переменной Y. Малые значения R2 могут указывать на нелинейность связи или на то, что поведение переменной Y объясняется не только Х, но и другими факторами.
Видео:Метод наименьших квадратов. Регрессионный анализ.Скачать
Стандартная ошибка регрессии
Стандартная ошибка регрессии ( Standard Error of a regression ) показывает насколько велика ошибка предсказания значений переменной Y на основании значений Х. Отдельные значения Yi мы можем предсказывать лишь с точностью +/- несколько значений (обычно 2-3, в зависимости от формы распределения ошибки ε).
Теперь вспомним уравнение линейной регрессионной модели Y=a*X+β+ε. Ошибка ε имеет случайную природу, т.е. является случайной величиной и поэтому имеет свою функцию распределения со средним значением μ и дисперсией σ 2 .
Оценив значение дисперсии σ 2 и вычислив из нее квадратный корень – получим Стандартную ошибку регрессии. Чем точки наблюдений на диаграмме рассеяния ближе находятся к прямой линии, тем меньше Стандартная ошибка.
Примечание : Вспомним , что при построении модели предполагается, что среднее значение ошибки ε равно 0, т.е. E[ε]=0.
Оценим дисперсию σ 2 . Помимо вычисления Стандартной ошибки регрессии эта оценка нам потребуется в дальнейшем еще и при построении доверительных интервалов для оценки параметров регрессии a и b .
Для оценки дисперсии ошибки ε используем остатки регрессии — разности между имеющимися значениями yi и значениями, предсказанными регрессионной моделью ŷ. Чем лучше регрессионная модель согласуется с данными (точки располагается близко к прямой линии), тем меньше величина остатков.
Для оценки дисперсии σ 2 используют следующую формулу:
где SSE – сумма квадратов значений ошибок модели ε i =yi — ŷi ( Sum of Squared Errors ).
SSE часто обозначают и как SSres – сумма квадратов остатков ( Sum of Squared residuals ).
Оценка дисперсии s 2 также имеет общепринятое обозначение MSE (Mean Square of Errors), т.е. среднее квадратов ошибок или MSRES (Mean Square of Residuals), т.е. среднее квадратов остатков . Хотя правильнее говорить сумме квадратов остатков, т.к. ошибка чаще ассоциируется с ошибкой модели ε, которая является непрерывной случайной величиной. Но, здесь мы будем использовать термины SSE и MSE, предполагая, что речь идет об остатках.
Примечание : Напомним, что когда мы использовали МНК для нахождения параметров модели, то критерием оптимизации была минимизация именно SSE (SSres). Это выражение представляет собой сумму квадратов расстояний между наблюденными значениями yi и предсказанными моделью значениями ŷi, которые лежат на линии регрессии.
Математическое ожидание случайной величины MSE равно дисперсии ошибки ε, т.е. σ 2 .
Чтобы понять почему SSE выбрана в качестве основы для оценки дисперсии ошибки ε, вспомним, что σ 2 является также дисперсией случайной величины Y (относительно среднего значения μy, при заданном значении Хi). А т.к. оценкой μy является значение ŷi = a * Хi + b (значение уравнения регрессии при Х= Хi), то логично использовать именно SSE в качестве основы для оценки дисперсии σ 2 . Затем SSE усредняется на количество точек данных n за вычетом числа 2. Величина n-2 – это количество степеней свободы ( df – degrees of freedom ), т.е. число параметров системы, которые могут изменяться независимо (вспомним, что у нас в этом примере есть n независимых наблюдений переменной Y). В случае простой линейной регрессии число степеней свободы равно n-2, т.к. при построении линии регрессии было оценено 2 параметра модели (на это было «потрачено» 2 степени свободы ).
Итак, как сказано было выше, квадратный корень из s 2 имеет специальное название Стандартная ошибка регрессии ( Standard Error of a regression ) и обозначается SEy. SEy показывает насколько велика ошибка предсказания. Отдельные значения Y мы можем предсказывать с точностью +/- несколько значений SEy (см. этот раздел ). Если ошибки предсказания ε имеют нормальное распределение , то примерно 2/3 всех предсказанных значений будут на расстоянии не больше SEy от линии регрессии . SEy имеет размерность переменной Y и откладывается по вертикали. Часто на диаграмме рассеяния строят границы предсказания соответствующие +/- 2 SEy (т.е. 95% точек данных будут располагаться в пределах этих границ).
В MS EXCEL стандартную ошибку SEy можно вычислить непосредственно по формуле:
= КОРЕНЬ(СУММКВРАЗН(C23:C83; ТЕНДЕНЦИЯ(C23:C83;B23:B83;B23:B83)) /( СЧЁТ(B23:B83) -2))
или с помощью функции ЛИНЕЙН() :
Примечание : Подробнее о функции ЛИНЕЙН() см. эту статью .
Видео:Суть метода наименьших квадратов с примерами. Основы эконометрики в RСкачать
Стандартные ошибки и доверительные интервалы для наклона и сдвига
В разделе Оценка неизвестных параметров линейной модели мы получили точечные оценки наклона а и сдвига b . Так как эти оценки получены на основе случайных величин (значений переменных Х и Y), то эти оценки сами являются случайными величинами и соответственно имеют функцию распределения со средним значением и дисперсией . Но, чтобы перейти от точечных оценок к интервальным , необходимо вычислить соответствующие стандартные ошибки (т.е. стандартные отклонения ).
Стандартная ошибка коэффициента регрессии a вычисляется на основании стандартной ошибки регрессии по следующей формуле:
где Sx – стандартное отклонение величины х, вычисляемое по формуле:
где Sey – стандартная ошибка регрессии, т.е. ошибка предсказания значения переменой Y ( см. выше ).
В MS EXCEL стандартную ошибку коэффициента регрессии Se можно вычислить впрямую по вышеуказанной формуле:
= КОРЕНЬ(СУММКВРАЗН(C23:C83; ТЕНДЕНЦИЯ(C23:C83;B23:B83;B23:B83)) /( СЧЁТ(B23:B83) -2))/ СТАНДОТКЛОН.В(B23:B83) /КОРЕНЬ(СЧЁТ(B23:B83) -1)
или с помощью функции ЛИНЕЙН() :
Формулы приведены в файле примера на листе Линейный в разделе Регрессионная статистика .
Примечание : Подробнее о функции ЛИНЕЙН() см. эту статью .
При построении двухстороннего доверительного интервала для коэффициента регрессии его границы определяются следующим образом:
где — квантиль распределения Стьюдента с n-2 степенями свободы. Величина а с «крышкой» является другим обозначением наклона а .
Например для уровня значимости альфа=0,05, можно вычислить с помощью формулы =СТЬЮДЕНТ.ОБР.2Х(0,05;n-2)
Вышеуказанная формула следует из того факта, что если ошибки регрессии распределены нормально и независимо, то выборочное распределение случайной величины
является t-распределением Стьюдента с n-2 степенью свободы (то же справедливо и для наклона b ).
Примечание : Подробнее о построении доверительных интервалов в MS EXCEL можно прочитать в этой статье Доверительные интервалы в MS EXCEL .
В результате получим, что найденный доверительный интервал с вероятностью 95% (1-0,05) накроет истинное значение коэффициента регрессии. Здесь мы считаем, что коэффициент регрессии a имеет распределение Стьюдента с n-2 степенями свободы (n – количество наблюдений, т.е. пар Х и Y).
Примечание : Подробнее о построении доверительных интервалов с использованием t-распределения см. статью про построение доверительных интервалов для среднего .
Стандартная ошибка сдвига b вычисляется по следующей формуле:
В MS EXCEL стандартную ошибку сдвига Seb можно вычислить с помощью функции ЛИНЕЙН() :
При построении двухстороннего доверительного интервала для сдвига его границы определяются аналогичным образом как для наклона : b +/- t*Seb.
Видео:Математика| Преобразование тригонометрических выражений. Формулы и задачиСкачать
Проверка значимости взаимосвязи переменных
Когда мы строим модель Y=αX+β+ε мы предполагаем, что между Y и X существует линейная взаимосвязь. Однако, как это иногда бывает в статистике, можно вычислять параметры связи даже тогда, когда в действительности она не существует, и обусловлена лишь случайностью.
Единственный вариант, когда Y не зависит X (в рамках модели Y=αX+β+ε), возможен, когда коэффициент регрессии a равен 0.
Чтобы убедиться, что вычисленная нами оценка наклона прямой линии не обусловлена лишь случайностью (не случайно отлична от 0), используют проверку гипотез . В качестве нулевой гипотезы Н 0 принимают, что связи нет, т.е. a=0. В качестве альтернативной гипотезы Н 1 принимают, что a 0.
Ниже на рисунках показаны 2 ситуации, когда нулевую гипотезу Н 0 не удается отвергнуть.
На левой картинке отсутствует любая зависимость между переменными, на правой – связь между ними нелинейная, но при этом коэффициент линейной корреляции равен 0.
Ниже — 2 ситуации, когда нулевая гипотеза Н 0 отвергается.
На левой картинке очевидна линейная зависимость, на правой — зависимость нелинейная, но коэффициент корреляции не равен 0 (метод МНК вычисляет показатели наклона и сдвига просто на основании значений выборки).
Для проверки гипотезы нам потребуется:
- Установить уровень значимости , пусть альфа=0,05;
- Рассчитать с помощью функции ЛИНЕЙН() стандартное отклонение Se для коэффициента регрессии (см. предыдущий раздел );
- Рассчитать число степеней свободы: DF=n-2 или по формуле = ИНДЕКС(ЛИНЕЙН(C24:C84;B24:B84;;ИСТИНА);4;2)
- Вычислить значение тестовой статистики t 0 =a/S e , которая имеет распределение Стьюдента с числом степеней свободы DF=n-2;
- Сравнить значение тестовой статистики |t0| с пороговым значением t альфа ,n-2. Если значение тестовой статистики больше порогового значения, то нулевая гипотеза отвергается ( наклон не может быть объяснен лишь случайностью при заданном уровне альфа) либо
- вычислить p-значение и сравнить его с уровнем значимости .
В файле примера приведен пример проверки гипотезы:
Изменяя наклон тренда k (ячейка В8 ) можно убедиться, что при малых углах тренда (например, 0,05) тест часто показывает, что связь между переменными случайна. При больших углах (k>1), тест практически всегда подтверждает значимость линейной связи между переменными.
Примечание : Проверка значимости взаимосвязи эквивалентна проверке статистической значимости коэффициента корреляции . В файле примера показана эквивалентность обоих подходов. Также проверку значимости можно провести с помощью процедуры F-тест .
Видео:Интерпретация коэффициента при логарифмировании в уравнениях регрессииСкачать
Доверительные интервалы для нового наблюдения Y и среднего значения
Вычислив параметры простой линейной регрессионной модели Y=aX+β+ε мы получили точечную оценку значения нового наблюдения Y при заданном значении Хi, а именно: Ŷ= a * Хi + b
Ŷ также является точечной оценкой для среднего значения Yi при заданном Хi. Но, при построении доверительных интервалов используются различные стандартные ошибки .
Стандартная ошибка нового наблюдения Y при заданном Хi учитывает 2 источника неопределенности:
- неопределенность связанную со случайностью оценок параметров модели a и b ;
- случайность ошибки модели ε.
Учет этих неопределенностей приводит к стандартной ошибке S(Y|Xi), которая рассчитывается с учетом известного значения Xi.
где SS xx – сумма квадратов отклонений от среднего значений переменной Х:
В MS EXCEL 2010 нет функции, которая бы рассчитывала эту стандартную ошибку , поэтому ее необходимо рассчитывать по вышеуказанным формулам.
Доверительный интервал или Интервал предсказания для нового наблюдения (Prediction Interval for a New Observation) построим по схеме показанной в разделе Проверка значимости взаимосвязи переменных (см. файл примера лист Интервалы ). Т.к. границы интервала зависят от значения Хi (точнее от расстояния Хi до среднего значения Х ср ), то интервал будет постепенно расширяться при удалении от Х ср .
Границы доверительного интервала для нового наблюдения рассчитываются по формуле:
Аналогичным образом построим доверительный интервал для среднего значения Y при заданном Хi (Confidence Interval for the Mean of Y). В этом случае доверительный интервал будет уже, т.к. средние значения имеют меньшую изменчивость по сравнению с отдельными наблюдениями ( средние значения, в рамках нашей линейной модели Y=aX+β+ε, не включают ошибку ε).
Стандартная ошибка S(Yср|Xi) вычисляется по практически аналогичным формулам как и стандартная ошибка для нового наблюдения:
Как видно из формул, стандартная ошибка S(Yср|Xi) меньше стандартной ошибки S(Y|Xi) для индивидуального значения .
Границы доверительного интервала для среднего значения рассчитываются по формуле:
Видео:Лекция №1.1 Явная и неявная схемы для уравнения теплопроводностиСкачать
Проверка адекватности линейной регрессионной модели
Модель адекватна, когда все предположения, лежащие в ее основе, выполнены (см. раздел Предположения линейной регрессионной модели ).
Проверка адекватности модели в основном основана на исследовании остатков модели (model residuals), т.е. значений ei=yi – ŷi для каждого Хi. В рамках простой линейной модели n остатков имеют только n-2 связанных с ними степеней свободы . Следовательно, хотя, остатки не являются независимыми величинами, но при достаточно большом n это не оказывает какого-либо влияния на проверку адекватности модели.
Чтобы проверить предположение о нормальности распределения ошибок строят график проверки на нормальность (Normal probability Plot).
В файле примера на листе Адекватность построен график проверки на нормальность . В случае нормального распределения значения остатков должны быть близки к прямой линии.
Так как значения переменной Y мы генерировали с помощью тренда , вокруг которого значения имели нормальный разброс, то ожидать сюрпризов не приходится – значения остатков располагаются вблизи прямой.
Также при проверке модели на адекватность часто строят график зависимости остатков от предсказанных значений Y. Если точки не демонстрируют характерных, так называемых «паттернов» (шаблонов) типа вор о нок или другого неравномерного распределения, в зависимости от значений Y, то у нас нет очевидных доказательств неадекватности модели.
В нашем случае точки располагаются примерно равномерно.
Часто при проверке адекватности модели вместо остатков используют нормированные остатки. Как показано в разделе Стандартная ошибка регрессии оценкой стандартного отклонения ошибок является величина SEy равная квадратному корню из величины MSE. Поэтому логично нормирование остатков проводить именно на эту величину.
SEy можно вычислить с помощью функции ЛИНЕЙН() :
Иногда нормирование остатков производится на величину стандартного отклонения остатков (это мы увидим в статье об инструменте Регрессия , доступного в надстройке MS EXCEL Пакет анализа ), т.е. по формуле:
Вышеуказанное равенство приблизительное, т.к. среднее значение остатков близко, но не обязательно точно равно 0.
📺 Видео
Эконометрика. Построение модели множественной регрессии в Excel.Скачать
Линейная регрессияСкачать
Эконометрика. Моделирование временных рядов. АвтокорреляцияСкачать