Вычисленный вручную

Я знаю, что это довольно специфический Rвопрос, но я могу думать о неправильной пропорции, объясненной, $R^2$ . Вот оно.

Я пытаюсь использовать Rпакет randomForest. У меня есть некоторые тренировочные данные и данные тестирования. Когда я подгоняю модель случайного леса, randomForestфункция позволяет вам вводить новые данные тестирования для тестирования. Затем он сообщает вам процент дисперсии, объясненный в этих новых данных. Когда я смотрю на это, я получаю один номер.

Когда я использую predict()функцию для прогнозирования значения результата данных тестирования на основе соответствия модели из данных обучения, и я беру квадратный коэффициент корреляции между этими значениями и фактическими значениями результата для данных тестирования, я получаю другое число. Эти значения не совпадают .

Вот некоторый Rкод, чтобы продемонстрировать проблему.

# use the built in iris data
data(iris)

#load the randomForest library
library(randomForest)

# split the data into training and testing sets
index <- 1:nrow(iris)
trainindex <- sample(index, trunc(length(index)/2))
trainset <- iris[trainindex, ]
testset <- iris[-trainindex, ]

# fit a model to the training set (column 1, Sepal.Length, will be the outcome)
set.seed(42)
model <- randomForest(x=trainset[ ,-1],y=trainset[ ,1])

# predict values for the testing set (the first column is the outcome, leave it out)
predicted <- predict(model, testset[ ,-1])

# what's the squared correlation coefficient between predicted and actual values?
cor(predicted, testset[, 1])^2

# now, refit the model using built-in x.test and y.test
set.seed(42)
randomForest(x=trainset[ ,-1], y=trainset[ ,1], xtest=testset[ ,-1], ytest=testset[ ,1])

Причина, по которой значения не совпадают, заключается в том, что сообщается об изменении, объясненном, а не об объясненном отклонении . Я думаю, что это распространенное заблуждение о R 2 , которое закреплено в учебниках. Я даже упоминал об этом в другой теме на днях. Если вам нужен пример, см. (В остальном неплохой) учебник «Себер и Ли», « Линейный регрессионный анализ» , 2-й. редактор$R^2$randomForest$R^2$

Общее определение для представляет R 2 = 1 - Σ я ( у я - у я ) $R^2$

То есть мы вычисляем среднеквадратичную ошибку, делим ее на дисперсию исходных наблюдений и затем вычитаем ее из единицы. (Обратите внимание, что если ваши прогнозы действительно плохие, это значение может стать отрицательным.)

$\hat{y}_i$матчи $\bar{y}$, Кроме того, остаточный вектор$y - \hat{y}$ is orthogonal to the vector of fitted values $\hat{y}$. When you put these two things together, then the definition reduces to the one that is more commonly encountered, i.e.,

The randomForest call is using the first definition, so if you do

   > y <- testset[,1]
   > 1 - sum((y-predicted)^2)/sum((y-mean(y))^2)

you'll see that the answers match.