Запустите регрессию OLS с фреймом данных Pandas

111

У меня есть pandasфрейм данных, и я хотел бы предсказать значения столбца A по значениям в столбцах B и C. Вот игрушечный пример:

import pandas as pd
df = pd.DataFrame({"A": [10,20,30,40,50], 
                   "B": [20, 30, 10, 40, 50], 
                   "C": [32, 234, 23, 23, 42523]})

В идеале у меня было бы что-то подобное, ols(A ~ B + C, data = df)но когда я смотрю на примеры из библиотек алгоритмов, scikit-learnкажется, что данные передаются в модель со списком строк вместо столбцов. Это потребовало бы от меня переформатирования данных в списки внутри списков, что, похоже, в первую очередь противоречит цели использования панд. Каков наиболее питонический способ запустить регрессию OLS (или любой алгоритм машинного обучения в целом) для данных в кадре данных pandas?

Майкл
источник

Ответы:

152

Я думаю, что вы можете делать именно то, что считали идеальным, используя пакет statsmodels , который был одной из pandas«необязательных зависимостей до pandas» версии 0.20.0 (он использовался для некоторых вещей в pandas.stats.)

>>> import pandas as pd
>>> import statsmodels.formula.api as sm
>>> df = pd.DataFrame({"A": [10,20,30,40,50], "B": [20, 30, 10, 40, 50], "C": [32, 234, 23, 23, 42523]})
>>> result = sm.ols(formula="A ~ B + C", data=df).fit()
>>> print(result.params)
Intercept    14.952480
B             0.401182
C             0.000352
dtype: float64
>>> print(result.summary())
                            OLS Regression Results                            
==============================================================================
Dep. Variable:                      A   R-squared:                       0.579
Model:                            OLS   Adj. R-squared:                  0.158
Method:                 Least Squares   F-statistic:                     1.375
Date:                Thu, 14 Nov 2013   Prob (F-statistic):              0.421
Time:                        20:04:30   Log-Likelihood:                -18.178
No. Observations:                   5   AIC:                             42.36
Df Residuals:                       2   BIC:                             41.19
Df Model:                           2                                         
==============================================================================
                 coef    std err          t      P>|t|      [95.0% Conf. Int.]
------------------------------------------------------------------------------
Intercept     14.9525     17.764      0.842      0.489       -61.481    91.386
B              0.4012      0.650      0.617      0.600        -2.394     3.197
C              0.0004      0.001      0.650      0.583        -0.002     0.003
==============================================================================
Omnibus:                          nan   Durbin-Watson:                   1.061
Prob(Omnibus):                    nan   Jarque-Bera (JB):                0.498
Skew:                          -0.123   Prob(JB):                        0.780
Kurtosis:                       1.474   Cond. No.                     5.21e+04
==============================================================================

Warnings:
[1] The condition number is large, 5.21e+04. This might indicate that there are
strong multicollinearity or other numerical problems.
DSM
источник
2
Обратите внимание, что правильное ключевое слово: formulaя случайно набрал formulasвместо него и получил странную ошибку:TypeError: from_formula() takes at least 3 arguments (2 given)
denfromufa
@DSM Очень новичок в Python. Пытался запустить тот же код и получил ошибки в обоих сообщениях печати: print result.summary () ^ SyntaxError: недопустимый синтаксис >>> print result.parmas Файл "<stdin>", строка 1 print result.parmas ^ SyntaxError: Отсутствуют круглые скобки в призыв к печати ... Может я неправильно загружал пакеты ?? Кажется, работает, когда я не ставлю «печать». Спасибо.
a.powell 01
2
@ a.powell Код OP предназначен для Python 2. Единственное изменение, которое, я думаю, вам нужно сделать, - это заключить в скобки аргументы для печати: print(result.params)иprint(result.summary())
Пол Мур
Я был бы признателен, если бы вы взглянули на это и поблагодарили вас: stackoverflow.com/questions/44923808/…
Деста Хейлеселасси Хагос 05
попытка использовать этот formula()подход вызывает ошибку типа TypeError: __init __ () отсутствует 1 обязательный позиционный аргумент: 'endog', поэтому я предполагаю, что он устарел. также, olsсейчасOLS
3pitt
68

Примечание: pandas.stats было удалено с версии 0.20.0


Это можно сделать с помощью pandas.stats.ols:

>>> from pandas.stats.api import ols
>>> df = pd.DataFrame({"A": [10,20,30,40,50], "B": [20, 30, 10, 40, 50], "C": [32, 234, 23, 23, 42523]})
>>> res = ols(y=df['A'], x=df[['B','C']])
>>> res
-------------------------Summary of Regression Analysis-------------------------

Formula: Y ~ <B> + <C> + <intercept>

Number of Observations:         5
Number of Degrees of Freedom:   3

R-squared:         0.5789
Adj R-squared:     0.1577

Rmse:             14.5108

F-stat (2, 2):     1.3746, p-value:     0.4211

Degrees of Freedom: model 2, resid 2

-----------------------Summary of Estimated Coefficients------------------------
      Variable       Coef    Std Err     t-stat    p-value    CI 2.5%   CI 97.5%
--------------------------------------------------------------------------------
             B     0.4012     0.6497       0.62     0.5999    -0.8723     1.6746
             C     0.0004     0.0005       0.65     0.5826    -0.0007     0.0014
     intercept    14.9525    17.7643       0.84     0.4886   -19.8655    49.7705
---------------------------------End of Summary---------------------------------

Обратите внимание, что вам необходимо установить statsmodelsпакет, он используется внутри pandas.stats.olsфункции.

Роман Пекар
источник
13
Обратите внимание, что в будущей версии pandas это будет устаревшим!
denfromufa
4
Зачем это нужно? Я очень надеюсь, что эта функция сохранится! Это ДЕЙСТВИТЕЛЬНО полезно и быстро!
FaCoffee,
2
The pandas.stats.ols module is deprecated and will be removed in a future version. We refer to external packages like statsmodels, see some examples here: http://www.statsmodels.org/stable/regression.html
javadba
2
@DestaHaileselassieHagos. Это может быть связано с проблемой missing intercepts. Разработчик эквивалентного Rпакета вносит коррективы, удаляя поправку для среднего: stats.stackexchange.com/a/36068/64552 . . Другие предложения: you can use sm.add_constant to add an intercept to the exog arrayи используйте reg = ols("y ~ x", data=dict(y=y,x=x)).fit()
диктат
2
Это был печальный день, когда удалили pandas.stats💔
3kstc
31

Я не знаю, является ли это новым в sklearnили pandas, но я могу передать фрейм данных напрямую, sklearnбез преобразования фрейма данных в массив numpy или любые другие типы данных.

from sklearn import linear_model

reg = linear_model.LinearRegression()
reg.fit(df[['B', 'C']], df['A'])

>>> reg.coef_
array([  4.01182386e-01,   3.51587361e-04])
3novak
источник
2
Небольшое отклонение от OP - но я нашел этот конкретный ответ очень полезным после добавления .values.reshape(-1, 1)в столбцы фрейма данных. Например: x_data = df['x_data'].values.reshape(-1, 1)и передача x_data(и созданных аналогичным образом y_data) массивов np в .fit()метод.
S3DEV
16

Это потребовало бы от меня переформатирования данных в списки внутри списков, что, похоже, в первую очередь противоречит цели использования панд.

Нет, просто преобразуйте в массив NumPy:

>>> data = np.asarray(df)

Это занимает постоянное время, потому что это просто создает представление о ваших данных. Затем скармливаем его scikit-learn:

>>> from sklearn.linear_model import LinearRegression
>>> lr = LinearRegression()
>>> X, y = data[:, 1:], data[:, 0]
>>> lr.fit(X, y)
LinearRegression(copy_X=True, fit_intercept=True, normalize=False)
>>> lr.coef_
array([  4.01182386e-01,   3.51587361e-04])
>>> lr.intercept_
14.952479503953672
Фред Фу
источник
3
Мне пришлось это сделать np.matrix( np.asarray( df ) ), потому что sklearn ожидал вертикальный вектор, тогда как массивы numpy, как только вы их вырезаете, действуют как горизонтальные векторы, что в большинстве случаев отлично.
cjohnson318 08
однако нет простого способа провести тесты коэффициентов с этим маршрутом,
MichaelChirico
2
Нет ли способа напрямую кормить Scikit-Learn с Pandas DataFrame?
Femto Trader
для других модулей sklearn (дерево решений и т. д.) я использовал значения df ['colname']., но это не сработало для этого.
szeitlin
1
Вы также можете использовать .valuesатрибут. Т.е., reg.fit(df[['B', 'C']].values, df['A'].values).
3novak
6

Statsmodels может построить модель OLS со ссылками на столбцы непосредственно на фреймворк pandas.

Коротко и мило:

model = sm.OLS(df[y], df[x]).fit()


Детали кода и сводка регрессии:

# imports
import pandas as pd
import statsmodels.api as sm
import numpy as np

# data
np.random.seed(123)
df = pd.DataFrame(np.random.randint(0,100,size=(100, 3)), columns=list('ABC'))

# assign dependent and independent / explanatory variables
variables = list(df.columns)
y = 'A'
x = [var for var in variables if var not in y ]

# Ordinary least squares regression
model_Simple = sm.OLS(df[y], df[x]).fit()

# Add a constant term like so:
model = sm.OLS(df[y], sm.add_constant(df[x])).fit()

model.summary()

Вывод:

                            OLS Regression Results                            
==============================================================================
Dep. Variable:                      A   R-squared:                       0.019
Model:                            OLS   Adj. R-squared:                 -0.001
Method:                 Least Squares   F-statistic:                    0.9409
Date:                Thu, 14 Feb 2019   Prob (F-statistic):              0.394
Time:                        08:35:04   Log-Likelihood:                -484.49
No. Observations:                 100   AIC:                             975.0
Df Residuals:                      97   BIC:                             982.8
Df Model:                           2                                         
Covariance Type:            nonrobust                                         
==============================================================================
                 coef    std err          t      P>|t|      [0.025      0.975]
------------------------------------------------------------------------------
const         43.4801      8.809      4.936      0.000      25.996      60.964
B              0.1241      0.105      1.188      0.238      -0.083       0.332
C             -0.0752      0.110     -0.681      0.497      -0.294       0.144
==============================================================================
Omnibus:                       50.990   Durbin-Watson:                   2.013
Prob(Omnibus):                  0.000   Jarque-Bera (JB):                6.905
Skew:                           0.032   Prob(JB):                       0.0317
Kurtosis:                       1.714   Cond. No.                         231.
==============================================================================

Как напрямую получить R-квадрат, коэффициенты и p-значение:

# commands:
model.params
model.pvalues
model.rsquared

# demo:
In[1]: 
model.params
Out[1]:
const    43.480106
B         0.124130
C        -0.075156
dtype: float64

In[2]: 
model.pvalues
Out[2]: 
const    0.000003
B        0.237924
C        0.497400
dtype: float64

Out[3]:
model.rsquared
Out[2]:
0.0190
Вестленд
источник