Коэффициент при независимой переменной в парном линейном уравнении регрессии

28. Как интерпретируется коэффициент при независимой переменной в парной линейной регрессии? (короткая и развернутая форма интерпретации)

y = a + bx. Короткая интерпретация: b – величина, на которую в среднем изменяется значение переменной y_i при увеличении независимой переменной x на единицу.

Развернутая: b –величина, на которую изменяется предсказанное по модели значение ŷ_i при увеличении значения независимой переменной x на одну единицу измерения.

29. Как интерпретируется коэффициент при переменной времени в парной линейной

регрессии? (короткая и развернутая форма интерпретации).

Коэффициент при переменной времени показывает, насколько в среднем изменится зависимая переменная при изменении времени на 1 период.

30. Как интерпретируется коэффициент при индексной переменной (например, при

индексе цен) в парной линейной регрессии? (короткая и развернутая форма

интерпретации)

Коэффициент выражает предельный прирост зависимой переменной при изменении переменной, при условии постоянства других переменных.

Увеличение индексной переменной на 1 процентный пункт приводит к изменению зависимой переменной на β единиц, при условии постоянства других переменных.

31. Как интерпретируется коэффициент при относительной индексной переменной (например, при индексе относительных цен) в парной линейной регрессии? (короткая и развернутая форма интерпретации)

Чем выше значение Индекса Цен, тем больше расходы на соответствующие товары.

Если относительная индексная переменная изменяется на 1 процентный пункт, то это приводит к изменению (в том же направлении) зависимой переменной на β единиц измерения зависимой переменной.

32. В чем смысл и каков способ расчета индекса относительных цен, используемого в эконометрических моделях?

Расчет индекса относительных цен позволяет избавиться от инфляции

Индекс относительных цен = индекс цен/ цена корзины потребительских товаров (индекс цен корзины).

33. Как интерпретируется константа в уравнении линейной регрессии с факторной независимой переменной?

Const дает прогнозируемое значение у (в единицах), если х=0.

Однако всегда важно учитывать смысловую интерпретацию.

34. Как интерпретируется константа в уравнении линейной регрессии с независимой переменной времени?

Константа имеет простое толкование, прогнозируемое значение у будет равно значению этой константы.

Если в качестве независимой переменной — время, то константа — это значение уравнение в предшествующий первому момент времени.

35. Каковы условия интерпретируемости константы в уравнении линейной регрессии?

Константу можно интерпретировать, когда она значима и когда это имеет экономический смысл. Второе условие выполняется для регрессий временного ряда (показывает значение зависимой переменной в базовый период).

Формально говоря, она показывает прогнозируемый уровень, когда х = 0. Иногда это имеет ясный смысл, иногда нет. Если х = 0 находится достаточно далеко от выборочных значений х, то буквальная интерпретация может привести к неверным результатам; даже если линия регрессии довольно точно описывает значения наблюдаемой выборки, нет гарантии, что так же будет при экстраполяции влево или вправо.

Представим простой способ интерпретации коэффициентов линейного уравнения регрессии у = a + bх, постоянная а дает прогнозируемое значение у (в единицах), если х = 0. Это может иметь или не иметь ясного смысла в зависимости от конкретной ситуации (стр. 65).

36. Как можно использовать полученные значимые оценки коэффициентов регрессии в экономическом анализе?

Можно предположить, что данный коэффициент показывает предельное изменение зависимого параметра при изменении объясняющей переменной.

37. Как модель регрессии по времени может быть использована для предсказания

значений зависимой переменной?

В модель регрессии по времени включена переменная времени и подставив нужное значение (номер периода, для которого выполняется прогноз) мы получаем прогнозное значение зависимой переменной для данного периода.

38. Каковы условия и ограничения для использования модели регрессии по времени для прогнозирования?

Должны выполняться условия Гаусса-Маркова.

I. Регрессионная модель линейна по параметрам (коэффициентам), корректно специфицирована, и содержит аддитивный случайный член.

II. Случайный член имеет нулевое среднее.

III. Объясняющая переменная не коррелирована со случайным членом.

IV. Наблюдаемые значения случайного члена не коррелированы друг с другом.

V. Случайный член имеет постоянную дисперсию

VI. Случайный член распределен нормально (необязательное, но часто используемое условие).

• · Наблюдение должно включать Т+m наблюдений, из которых T – используется для построения регрессии (желательно высокое Т для точности), а последние m применяются для анализа точности предсказания. После проведения проверки можно построить прогноз на ближайшие несколько периодов, в среднем не далее 5% от длины промежутка выборки – чаще еще меньше.

39. Как можно использовать модель регрессии по факторной независимой переменной для прогнозирования?

С помощью регрессии по факторной независимой переменной можно прогнозировать поведение зависимой переменной в зависимости от изменения объясняющей переменной. Если в уравнение регрессии (с оцененными параметрами) подставить какое-то значение объясняющей переменной, то мы получим прогноз реакции зависимой переменной на изменение значения объясняющей переменной.

40. Какие проблемы и трудности возникают при использовании модели регрессии по

факторной независимой переменной для прогнозирования?

Эконометрические модели строятся из-за 2 причин. Во-первых, это прогнозирование; при высоком показателе R 2 модель может дать очень хороший прогноз зависимой переменной на будущее. Во-вторых, для объяснения определенных зависимостей; в такой ситуации R 2 может быть низким, но зато знак коэффициента при независимой переменной будет определен однозначно, что даст исследователю информацию о виде связи между показателями. Если модель строилась по первой причине и не имеет высокого R-квадрата, использовать ее для прогнозирования бесполезно, так как результат будет далеким от совершенства.

Видео:Эконометрика Линейная регрессия и корреляцияСкачать

Уравнение парной линейной регрессии

Если зависимость между результатом и фактором установлена, то ее целесообразно представить математической функцией y = f(x). При выборе типа функции (линейная или нелинейная) руководствуются характером расположения точек на поле корреляции, а также содержанием изучаемой связи, которая наилучшим образом соответствует исходным данным, иначе говоря, обеспечивает наилучшую аппроксимацию поля корреляции.

Когда влияние изменения фактора на результат постоянно, используют линейную функцию, в других случаях необходимо применять нелинейные функции.

Математическое описание зависимости в среднем изменений результативного признака у от фактора х называется уравнением парной регрессии.

Парная линейная регрессия имеет вид

где у_х — среднее значение результативного признака при определенном значении факторного признака х; а — свободный член уравнения регрессии; b — коэффициент регрессии.

Построение регрессионной модели включает следующие основные этапы:

• — определение цели исследования;
• — оценка однородности исходных данных;
• — выбор формы связи между результатом и отобранными факторами;
• — определение параметров модели;
• — оценка тесноты связи;
• — определение показателей эластичности;
• — проверка качества построенной модели.

Вернемся к рассматриваемому примеру 8.1 и построим уравнение парной линейной регрессии.

Вначале оценим однородность исходных данных, для чего рассчитаем коэффициент вариации (см. гл. 6):

Значение коэффициента вариации менее 30%, что говорит об однородности исходных данных, а следовательно, о возможности построения уравнения регрессии.

Найдем параметры а и b парной линейной регрессии у_х = а + Ьх.

Для этого используем метод наименьших квадратов (МНК). Исходное условие МНК:

Нужно подобрать такую прямую у_х = а + Ьх, которая отражает минимальность суммы квадратов отклонений фактических значений результативной переменной от ее теоретических значений, получаемых на основе уравнения регрессии.

Для этого воспользуемся системой нормальных уравнений МНК для прямой:

Решая эту систему, можно получить формулы для определения параметров а и Ъ:

отсюда

следовательно,

Используя расчетные данные табл. 8.2, получаем

Теперь можно записать уравнение парной регрессии:

Параметр а выполняет роль доводки до соотношения между средними признаками х и у, никакого экономического смысла в него не вкладывается. Параметр b (коэффициент регрессии) показывает, что в среднем с ростом накопленных за семестр баллов на одну единицу оценка растет на 0,069 балла.

Направление связи между признаками у и.г определяет знак коэффициента регрессии Ь. В нашем примере b > О, т.е. связь является прямой. Если b те — V т К,-

Когда единицы измерения исследуемых показателей различаются, для оценки влияния факторов па результативный признак вычисляют коэффициенты эластичности.

В нашем примере максимально возможное число баллов, которое можно получить на экзамене, равно 5, а максимально накопленное за семестр число баллов равно 100.

Средний коэффициент эластичности для парной линейной регрессии рассчитывается по формуле

Он показывает, па сколько процентов изменяется результативный признаку при изменении факторного признака на 1% от своего среднего значения.

В нашем примере

Это означает, что при увеличении накопленных за семестр баллов на 1% оценка за экзамен увеличивается примерно на 15%.

По уравнению у_х = -1,83 + 0,069# рассчитаем ожидаемые (теоретические) значения экзаменационной оценки для каждого студента (у_х ). Результаты представлены в табл. 8.3. Значения у. подтверждают, что найденная линия регрессии является наилучшей для аппроксимации исходных данных.

Отклонения фактических оценок от теоретических невелики. Для оценки этих отклонений рассчитывают ошибку аппроксимации. Средняя относительная ошибка аппроксимации определяется но формуле

Найдем ошибку аппроксимации для нашего примера. Для этого составим расчетную таблицу (табл. 8.3).

В нашем примере что говорит о хорошем качестве

уравнения регрессии, поскольку ошибка аппроксимации в пределах 6—10% свидетельствует о хорошем соответствии модели исходным данным.

В последней графе табл. 8.3 показаны квадраты отклонений фактических значений (у.) от расчетных (г/.).

Сумма является составляющей общей колеблемости г/,

которая в регрессионном анализе представлена следующим образом:

где — общая колеблемость; — остаточная колеблемость; ‘ — колеблемость у, объясненная уравнением регрессии.

Это разложение вариации зависимой переменной (формула (8.10)) лежит в основе оценки качества полученного уравнения регрессии: чем большая часть вариации у объясняется регрессией, тем лучше качество регрессии, т.е. правильно выбран тип функции для описания зависимости У = /(*), правильно выделена объясняющая переменная (признак-фактор) х.

Отношение объясненной вариации к общей вариации позволяет найти коэффициент детерминации

Этот коэффициент определяет степень детерминации регрессией вариации у.

Корень квадратный из коэффициента детерминации называется теоретическим корреляционным отношением, оно определяет тесноту связи между результативным и факторным признаками при линейной и нелинейной зависимости. Теоретическое корреляционное отношение изменяется от 0 до 1. Чем ближе его значение к 1, тем связь между признаками теснее.

В нашем примере

Отсюда , или 85%, что совпадает с ранее полученным

значением коэффициента детерминации.

В случае высокой детерминации (гр > 0,9) уравнение регрессии может использоваться для прогнозирования зависимой переменной. В этом случае можно предсказать ожидаемое значение у по уравнению регрессии на основе ожидаемого значения х.

В нашем примере уравнение регрессии позволяет определить ожидаемую экзаменационную оценку на основе суммы накопленных за семестр текущих баллов.

Выполнить регрессионный анализ, можно воспользовавшись ПК и пакетами прикладных программ Excel, EViews, Statgraphics, Statistica и т.д. Рассмотрим построение парной линейной регрессии с помощью Microsoft Office Excel 2007. Для этого надо произвести следующие действия.

• 1. Выбрать Данные —> Анализ данных —» Регрессия.
• 2. В диалоговом окне Регрессия сделать следующее:
  • — ввести в окне Редактирование Входной интервал Y диапазон зависимой переменной;
  • — ввести в окне Редактирование Входной интервал X диапазон факторной переменной;
  • — установить флажок Метки, если первая строка содержит название столбцов;
  • — установить флажок Константа-ноль, если в уравнении регрессии отсутствует свободный член а
  • — ввести в окне Редактирование Выходной интервал номер свободной ячейки на рабочем листе;
  • — нажать кнопку ОК.

В табл. 8.4 представлены результаты расчета с помощью Microsoft Office Excel:

• а) Регрессионная статистика’.
• — множественный R — коэффициент корреляции г_ху =0,92;

• — /^-квадрат — коэффициент детерминации г_ху =0,85;
• — наблюдения — число наблюдений п = 8;
• б) Дисперсионный анализ’.
• — столбец df— число степеней свободы.

Для строки Регрессия число степеней свободы определяется количеством параметров т в уравнении регрессии: df^ = т — 1.

В нашем примере два параметра: df^ = 2-1 = 1.

Регрессионный анализ: построение парной линейной регрессии с помощью Microsoft Office Excel 2007

Видео:Эконометрика. Линейная парная регрессияСкачать

Парная линейная регрессия. Задачи регрессионного анализа

Будут и задачи для самостоятельного решения, к которым можно посмотреть ответы.

Видео:Парная регрессия: линейная зависимостьСкачать

Понятие линейной регрессии. Парная линейная регрессия

Линейная регрессия — выраженная в виде прямой зависимость среднего значения какой-либо величины от некоторой другой величины. В отличие от функциональной зависимости y = f(x) , когда каждому значению независимой переменной x соответствует одно определённое значение величины y, при линейной регрессии одному и тому же значению x могут соответствовать в зависимости от случая различные значения величины y.

Если в результате наблюдения установлено, что при каждом определённом значении x существует сколько-то (n) значений переменной y, то зависимость средних арифметических значений y от x и является регрессией в статистическом понимании.

Если установленная зависимость может быть записана в виде уравнения прямой

то эта регрессионная зависимость называется линейной регрессией.

О парной линейной регрессии говорят, когда установлена зависимость между двумя переменными величинами (x и y). Парная линейная регрессия называется также однофакторной линейной регрессией, так как один фактор (независимая переменная x) влияет на результирующую переменную (зависимую переменную y).

В уроке о корреляционной зависимости были разобраны примеры того, как цена на квартиры зависит от общей площади квартиры и от площади кухни (две различные независимые переменные) и о том, что результаты наблюдений расположены в некотором приближении к прямой, хотя и не на самой прямой. Если точки корреляционной диаграммы соединить ломанной линией, то будет получена линия эмпирической регрессии. А если эта линия будет выровнена в прямую, то полученная прямая будет прямой теоретической регрессии. На рисунке ниже она красного цвета (для увеличения рисунка щёлкнуть по нему левой кнопкой мыши).

По этой прямой теоретической регрессии может быть сделан прогноз или восстановление неизвестных значений зависимой переменной по заданным значениям независимой переменной.

В случае парной линейной регрессии для данных генеральной совокупности связь между независимой переменной (факториальным признаком) X и зависимой переменной (результативным признаком) Y описывает модель

,

— свободный член прямой парной линейной регрессии,

— коэффициент направления прямой парной линейной регрессии,

— случайная погрешность,

N — число элементов генеральной совокупности.

Уравнение парной линейной регрессии для генеральной совокупности можно построить, если доступны данные обо всех элементах генеральной совокупности. На практике данные всей генеральной совокупности недоступны, но доступны данные об элементах некоторой выборки.

Поэтому параметры генеральной совокупности оценивают при помощи соответствующих параметров соответствующей выборки: свободный член прямой парной линейной регрессии генеральной совокупности заменяют на свободный член прямой парной линейной регрессии выборки , а коэффициент направления прямой парной линейной регрессии генеральной совокупности — на коэффициент направления прямой парной линейной регрессии выборки .

В результате получаем уравнение парной линейной регрессии выборки

— оценка полученной с помощью модели линейной регрессии зависимой переменной Y,

— погрешность,

n — размер выборки.

Чтобы уравнение парной линейной регрессии было более похоже на привычное уравнение прямой, его часто также записывают в виде

.

Видео:Метод наименьших квадратов. Линейная аппроксимацияСкачать

Уравнение парной линейной регрессии и метод наименьших квадратов

Определение коэффициентов уравнения парной линейной регрессии

Если заранее известно, что зависимость между факториальным признаком x и результативным признаком y должна быть линейной, выражающейся в виде уравнения типа , задача сводится к нахождению по некоторой группе точек наилучшей прямой, называемой прямой парной линейной регрессии. Следует найти такие значения коэффициентов a и b , чтобы сумма квадратов отклонений была наименьшей:

.

Если через и обозначить средние значения признаков X и Y,то полученная с помощью метода наименьших квадратов функция регрессии удовлетворяет следующим условиям:

• прямая парной линейной регрессии проходит через точку ;
• среднее значение отклонений равна нулю: ;
• значения и не связаны: .

Условие метода наименьших квадратов выполняется, если значения коэффициентов равны:

,

.

Пример 1. Найти уравнение парной линейной регрессии зависимости между валовым внутренним продуктом (ВВП) и частным потреблением на основе данных примера урока о корреляционной зависимости (эта ссылка, которая откроется в новом окне, потребуется и при разборе следующих примеров).

Решение. Используем рассчитанные в решении названного выше примера суммы:

Используя эти суммы, вычислим коэффициенты:

Таким образом получили уравнение прямой парной линейной регрессии:

Составить уравнение парной линейной регрессии самостоятельно, а затем посмотреть решение

Пример 2. Найти уравнение парной линейной регрессии для выборки из 6 наблюдений, если уже вычислены следующие промежуточные результаты:

;

;

;

;

Видео:Множественная регрессияСкачать

Анализ качества модели линейной регрессии

Метод наименьших квадратов имеет по меньшей мере один существенный недостаток: с его помощью можно найти уравнение линейной регрессии и в тех случаях, когда данные наблюдений значительно рассеяны вокруг прямой регрессии, то есть находятся на значительном расстоянии от этой прямой. В таких случаях за точность прогноза значений зависимой переменной ручаться нельзя. Существуют показатели, которые позволяют оценить качество уравнения линейной регрессии прежде чем использовать модели линейной регрессии для практических целей. Разберём важнейшие из этих показателей.

Коэффициент детерминации

Коэффициент детерминации принимает значения от 0 до 1 и в случае качественной модели линейной регрессии стремится к единице. Коэффициент детерминации показывает, какую часть общего рассеяния зависимой переменной объясняет независимая переменная:

,

— сумма квадратов отклонений, объясняемых моделью линейной регрессии, которая характеризует рассеяние точек прямой регрессии относительно арифметического среднего,

— общая сумма квадратов отклонений, которая характеризует рассеяние зависимой переменной Y относительно арифметического среднего,

— сумма квадратов отклонений ошибки (не объясняемых моделью линейной регрессии), которая характеризует рассеяние зависимой переменной Y относительно прямой регресии.

Пример 3. Даны сумма квадратов отклонений, объясняемых моделью линейной регрессии (3500), общая сумма квадратов отклонений (5000) и сумма квадратов отклонений ошибки (1500). Найти коэффициент детерминации двумя способами.

F-статистика (статистика Фишера) для проверки качества модели линейной регрессии

Минимальное возможное значение F-статистики — 0. Чем выше значение статистики Фишера, тем качественнее модель линейной регрессии. Этот показатель представляет собой отношение объясненной суммы квадратов (в расчете на одну независимую переменную) к остаточной сумме квадратов (в расчете на одну степень свободы):

где m — число объясняющих переменных.

Сумма квадратов остатков

Сумма квадратов остатков (RSS) измеряет необъясненную часть дисперсии зависимой переменной:

—

остатки — разности между реальными значениями зависимой переменной и значениями, оценёнными уравнением линейной регрессии.

В случае качественной модели линейной регрессии сумма квадратов остатков стремится к нулю.

Стандартная ошибка регрессии

Стандартная ошибка регрессии (SEE) измеряет величину квадрата ошибки, приходящейся на одну степень свободы модели:

Чем меньше значение SEE, тем качественнее модель.

Пример 4. Рассчитать коэффициент детерминации для данных из примера 1.

Решение. На основании данных таблицы (она была приведена в примере урока о корреляционной зависимости) получаем, что SST = 63 770,593 , SSE = 10 459,587 , SSR = 53 311,007 .

Можем убедиться, что выполняется закономерность SSR = SST — SSE :

Получаем коэффициент детерминации:

.

Таким образом, 83,6% изменений частного потребления можно объяснить моделью линейной регресии.

Видео:Парная нелинейная регрессияСкачать

Интерпретация коэффициентов уравнения парной линейной регрессии и прогноз значений зависимой переменной

Итак, уравнение парной линейной регрессии:

.

В этом уравнении a — свободный член, b — коэффициент при независимой переменной.

Интерпретация свободного члена: a показывает, на сколько единиц график регрессии смещён вверх при x=0, то есть значение переменной y при нулевом значении переменной x.

Интерпретация коэффициента при независимой переменной: b показывает, на сколько единиц изменится значение зависимой переменной y при изменении x на одну единицу.

Пример 5. Зависимость частного потребления граждан от ВВП (истолкуем это просто: от дохода) описывается уравнением парной линейной регрессии . Сделать прогноз потребления при доходе в 20 000 у.е. Выяснить, на сколько увеливается потребление при увеличении дохода на 5000 у.е. Меняется ли потребление, если доход не меняется?

Решение. Подставляем в уравнение парной линейной регрессии x i = 20000 и получаем прогноз потребления при доходе в 20 000 у.е. y i = 17036,4662 .

Подставляем в уравнение парной линейной регрессии x i = 5000 и получаем прогноз увеличения потребления при увеличении дохода на 5000 у.е. y i = 4161,9662 .

Если доход не меняется, то x i = 0 и получаем, что потребление уменьшается на 129,5338 у.е.

Видео:Множественная регрессия в ExcelСкачать

Задачи регрессионного анализа

Регрессионный анализ — раздел математической статистики, объединяющий практические методы исследования регрессионной зависимости между величинами по статистическим данным.

Наиболее частые задачи регрессионного анализа:

• установление факта наличия или отсутствия статистических зависимостей между переменными величинами;
• выявление причинных связей между переменными величинами;
• прогноз или восстановление неизвестных значений зависимых переменных по заданным значениям независимых переменных.

Также делаются проверки статистических гипотез о регрессии. Кроме того, при изучении связи между двумя величинами по результатам наблюдений в соответствии с теорией регрессии предполагается, что зависимая переменная имеет некоторое распределение вероятностей при фиксированном значении независимой переменной.

В исследованиях поведения человека, чтобы они претендовали на объективность, важно не только установить зависимость между факторами, но и получить все необходимые статистические показатели для результата проверки соответствующей гипотезы.

Видео:Математика #1 | Корреляция и регрессияСкачать

Проверка гипотезы о равенстве нулю коэффициента направления прямой парной линейной регрессии

Одна из важнейших гипотез в регрессионном анализе — гипотеза о том, что коэффициент направления прямой регрессии генеральной совокупности равен нулю.

Если это предположение верно, то изменения независимой переменной X не влияют на изменения зависимой переменной Y: переменные X и Y не коррелированы, то есть линейной зависимости Y от X нет.

рассматривают во взаимосвязи с альтернативной гипотезой

.

Статистика коэффициента направления

соответствует распределению Стьюдента с числом степеней свободы v = n — 2 ,

где — стандартная погрешность коэффициента направления прямой линейной регресии b 1 .

Доверительный интервал коэффициента направления прямой линейной регрессии:

.

Критическая область, в которой с вероятностью P = 1 — α отвергают нулевую гипотезу и принимают альтернативную гипотезу:

Пример 6. На основе данных из предыдущих примеров (о ВВП и частном потреблении) определить доверительный интервал коэффициента направления прямой линейной регресии 95% и проверить гипотезу о равенстве нулю коэффициента направления прямой парной линейной регрессии.

Можем рассчитать, что , а стандартная погрешность регрессии .

Таким образом, стандартная погрешность коэффициента направления прямой линейной регресии b 1 :

.

Так как и (находим по таблице в приложениях к учебникам по статистике), то доверительный интервал 95% коэффициента направления прямой парной линейной регрессии:

.

Так как гипотетическое значение коэффициента — нуль — не принадлежит доверительному интервалу, с вероятностью 95% можем отвергнуть основную гипотезу и принять альтернативную гипотезу, то есть считать, что зависимая переменная Y линейно зависит от независимой переменной X.

🌟 Видео

Интерпретация коэффициента при логарифмировании в уравнениях регрессииСкачать

Эконометрика. Множественная регрессия и корреляция.Скачать

Коэффициент линейной регрессии, 2 способаСкачать

Метод наименьших квадратов. Парная регрессия расчет без Excel @economc #МНК #регрессия #корреляцияСкачать

Как вычислить линейный коэффициент корреляции в MS Excel и построить уравнение регрессии?Скачать

Регрессия - как строить и интерпретировать. Примеры линейной и множественной регрессии.Скачать

Эконометрика. Оценка значимости параметров уравнения регрессии. Критерий Стьюдента.Скачать

Расчет коэффициента корреляции в ExcelСкачать

Корреляционно-регрессионный анализ многомерных данных в ExcelСкачать

Множественная регрессия в Excel и мультиколлинеарностьСкачать

Эконометрика. Оценка значимости уравнения регрессии. Критерий ФишераСкачать

Корреляция: коэффициенты Пирсона и Спирмена, линейная регрессияСкачать