Линейная регрессия — это метод, который мы можем использовать для понимания взаимосвязи между одной или несколькими переменными-предикторами и переменной- откликом .
Обычно, когда мы выполняем линейную регрессию, нас интересует оценка среднего значения переменной ответа.
Однако вместо этого мы могли бы использовать метод, известный как квантильная регрессия , для оценки любого значения квантиля или процентиля значения ответа, такого как 70-й процентиль, 90-й процентиль, 98-й процентиль и т. д.
В этом руководстве представлен пошаговый пример того, как использовать эту функцию для выполнения квантильной регрессии в Python.
Шаг 1: Загрузите необходимые пакеты
Сначала загрузим необходимые пакеты и функции:
import numpy as np
import pandas as pd
import statsmodels.api as sm
import statsmodels. formula.api as smf
import matplotlib.pyplot as plt
Шаг 2: Создайте данные
Для этого примера мы создадим набор данных, который содержит часы обучения и результаты экзаменов, полученные для 100 студентов в каком-то университете:
#make this example reproducible
np.random.seed (0)
#create dataset
obs = 100
hours = np.random.uniform (1, 10, obs)
score = 60 + 2\*hours + np.random.normal (loc=0, scale=.45\*hours, size=100)
df = pd.DataFrame({'hours ': hours, 'score ': score})
#view first five rows
df.head ()
hours score
0 5.939322 68.764553
1 7.436704 77.888040
2 6.424870 74.196060
3 5.903949 67.726441
4 4.812893 72.849046
Шаг 3: Выполните квантильную регрессию
Далее мы подгоним модель квантильной регрессии, используя количество часов обучения в качестве переменной-предиктора и экзаменационный балл в качестве переменной-ответа.
Мы будем использовать модель для прогнозирования ожидаемого 90-го процентиля экзаменационных баллов на основе количества изученных часов:
#fit the model
model = smf. quantreg('score ~ hours', df). fit (q= 0.9 )
#view model summary
print(model. summary ())
QuantReg Regression Results
==============================================================================
Dep. Variable: score Pseudo R-squared: 0.6057
Model: QuantReg Bandwidth: 3.822
Method: Least Squares Sparsity: 10.85
Date: Tue, 29 Dec 2020 No. Observations: 100
Time: 15:41:44 Df Residuals: 98
Df Model: 1
==============================================================================
coef std err t P>|t| [0.025 0.975]
------------------------------------------------------------------------------
Intercept 59.6104 0.748 79.702 0.000 58.126 61.095
hours 2.8495 0.128 22.303 0.000 2.596 3.103
==============================================================================
На выходе мы можем увидеть оценочное уравнение регрессии:
90-й процентиль экзаменационного балла = 59,6104 + 2,8495*(часы)
Например, ожидается, что 90-й процентиль баллов для всех студентов, изучающих 8 часов, будет равен 82,4:
90-й процентиль экзаменационного балла = 59,6104 + 2,8495*(8) = 82,4 .
Выходные данные также отображают верхний и нижний доверительные пределы для точки пересечения и часов переменной предиктора.
Шаг 4: Визуализируйте результаты
Мы также можем визуализировать результаты регрессии, создав диаграмму рассеяния с подобранным уравнением квантильной регрессии, наложенным на график:
#define figure and axis
fig, ax = plt.subplots(figsize=(8, 6))
#get y values
get_y = lambda a, b: a + b \* hours
y = get_y(model. params ['Intercept'], model. params ['hours'])
#plot data points with quantile regression equation overlaid
ax.plot(hours, y, color='black')
ax.scatter (hours, score, alpha=.3)
ax.set_xlabel('Hours Studied', fontsize=14)
ax.set_ylabel('Exam Score', fontsize=14)
Обратите внимание, что в отличие от простой линии линейной регрессии эта подобранная линия не представляет «линию наилучшего соответствия» для данных. Вместо этого он проходит через предполагаемый 90-й процентиль на каждом уровне предикторной переменной.
Дополнительные ресурсы
Как выполнить простую линейную регрессию в Python
Как выполнить квадратичную регрессию в Python