Почему LASSO не находит мою идеальную пару предикторов в высокой размерности?

20

Я провожу небольшой эксперимент с регрессией LASSO в R, чтобы проверить, сможет ли она найти идеальную пару предикторов. Пара определяется следующим образом: f1 + f2 = исход

Результатом здесь является предопределенный вектор, называемый «возраст». F1 и f2 создаются путем взятия половины вектора возраста и установки остальных значений в 0, например: age = [1,2,3,4,5,6], f1 = [1,2,3, 0,0,0] и f2 = [0,0,0,4,5,6]. Я объединяю эту пару предикторов с увеличивающимся количеством случайно созданных переменных путем выборки из нормального распределения N (1,1).

То, что я вижу, когда я нажимаю 2 ^ 16 переменных, LASSO больше не находит мою пару. Смотрите результаты ниже.

Количество функций на сгиб на размер данныхКоэффициенты идеальной пары

Почему это происходит? Вы можете воспроизвести результаты с помощью сценария ниже. Я заметил, что когда я выбираю другой возрастной вектор, например: [1: 193], тогда LASSO находит пару с высокой размерностью (> 2 ^ 16).

Сценарий:

## Setup ##
library(glmnet)
library(doParallel)
library(caret)

mae <- function(errors){MAE <- mean(abs(errors));return(MAE)}
seed = 1
n_start <- 2 #start at 2^n features
n_end <- 16 #finish with 2^n features
cl <- makeCluster(3)
registerDoParallel(cores=cl)

#storage of data
features <- list()
coefs <- list()
L <- list() 
P <- list() 
C <- list() 
RSS <- list() 

## MAIN ##
for (j in n_start:n_end){
  set.seed(seed)
  age <- c(55,31,49,47,68,69,53,42,58,67,60,58,32,52,63,31,51,53,37,48,31,58,36,42,61,49,51,45,61,57,52,60,62,41,28,45,39,47,70,33,37,38,32,24,66,54,59,63,53,42,25,56,70,67,44,33,50,55,60,50,29,51,49,69,70,36,53,56,32,43,39,43,20,62,46,65,62,65,43,40,64,61,54,68,55,37,59,54,54,26,68,51,45,34,52,57,51,66,22,64,47,45,31,47,38,31,37,58,66,66,54,56,27,40,59,63,64,27,57,32,63,32,67,38,45,53,38,50,46,59,29,41,33,40,33,69,42,55,36,44,33,61,43,46,67,47,69,65,56,34,68,20,64,41,20,65,52,60,39,50,67,49,65,52,56,48,57,38,48,48,62,48,70,55,66,58,42,62,60,69,37,50,44,61,28,64,36,68,57,59,63,46,36)
  beta2 <- as.data.frame(cbind(age,replicate(2^(j),rnorm(length(age),1,1))));colnames(beta2)[1] <-'age'

  f1 <- c(age[1:96],rep(0,97)) 
  f2 <- c(rep(0,96),age[97:193])
  beta2 <- as.data.frame(cbind(beta2,f1,f2))

  #storage variables
  L[[j]] <- vector()
  P[[j]] <- vector()
  C[[j]] <- list()
  RSS[[j]] <- vector()

  #### DCV LASSO ####
  set.seed(seed) #make folds same over 10 iterations
  for (i in 1:10){

    print(paste(j,i))
    index <- createFolds(age,k=10)
    t.train <- beta2[-index[[i]],];row.names(t.train) <- NULL
    t.test <- beta2[index[[i]],];row.names(t.test) <- NULL

    L[[j]][i] <- cv.glmnet(x=as.matrix(t.train[,-1]),y=as.matrix(t.train[,1]),parallel = T,alpha=1)$lambda.min #,lambda=seq(0,10,0.1)
    model <- glmnet(x=as.matrix(t.train[,-1]),y=as.matrix(t.train[,1]),lambda=L[[j]][i],alpha=1)
    C[[j]][[i]] <- coef(model)[,1][coef(model)[,1] != 0]
    pred <- predict(model,as.matrix(t.test[,-1]))
    RSS[[j]][i] <- sum((pred - t.test$age)^2)
    P[[j]][i] <- mae(t.test$age - pred)
    gc()
  }
}

##############
## PLOTTING ##
##############

#calculate plots features
beta_sum = unlist(lapply(unlist(C,recursive = F),function(x){sum(abs(x[-1]))}))
penalty = unlist(L) * beta_sum
RSS = unlist(RSS)
pair_coefs <- unlist(lapply(unlist(C,recursive = F),function(x){
  if('f1' %in% names(x)){f1 = x['f1']}else{f1=0;names(f1)='f1'}
  if('f2' %in% names(x)){f2 = x['f2']}else{f2=0;names(f2)='f2'}
  return(c(f1,f2))}));pair_coefs <- split(pair_coefs,c('f1','f2'))
inout <- lapply(unlist(C,recursive = F),function(x){c('f1','f2') %in% names(x)})
colors <- unlist(lapply(inout,function(x){if (x[1]*x[2]){'green'}else{'red'}}))
featlength <- unlist(lapply(unlist(C,recursive = F),function(x){length(x)-1}))

#diagnostics
plot(rep(n_start:n_end,each=10),pair_coefs$f1,col='red',xaxt = "n",xlab='n/o randomly generated features (log2)',main='Pair Coefficients',ylim=c(0,1),ylab='pair coefficients');axis(1, at=n_start:n_end);points(rep(n_start:n_end,each=10),pair_coefs$f2,col='blue');axis(1, at=n_start:n_end, labels=(n_start:n_end));legend('bottomleft',fill=c('red','blue'),legend = c('f1','f2'),inset=.02)
plot(rep(n_start:n_end,each=10),RSS+penalty,col=colors,xaxt = "n",xlab='n/o randomly generated features (log2)',main='RSS+penalty');axis(1, at=n_start:n_end, labels=(n_start:n_end));legend('topleft',fill=c('green','red'),legend = c('Pair Selected','Pair not Selected'),inset=.02)
plot(rep(n_start:n_end,each=10),penalty,col=colors,xaxt = "n",xlab='n/o randomly generated features (log2)',main='Penalty');axis(1, at=n_start:n_end, labels=(n_start:n_end));legend('topleft',fill=c('green','red'),legend = c('Pair Selected','Pair not Selected'),inset=.02)
plot(rep(n_start:n_end,each=10),RSS,col=colors,xaxt = "n",xlab='n/o randomly generated features (log2)',main='RSS');axis(1, at=n_start:n_end, labels=(n_start:n_end));legend('topleft',fill=c('green','red'),legend = c('Pair Selected','Pair not Selected'),inset=.02)
plot(rep(n_start:n_end,each=10),unlist(L),col=colors,xaxt = "n",xlab='n/o randomly generated features (log2)',main='Lambdas',ylab=expression(paste(lambda)));axis(1, at=n_start:n_end, labels=(n_start:n_end));legend('topleft',fill=c('green','red'),legend = c('Pair Selected','Pair not Selected'),inset=.02)
plot(rep(n_start:n_end,each=10),featlength,ylab='n/o features per fold',col=colors,xaxt = "n",xlab='n/o randomly generated features (log2)',main='Features per Fold');axis(1, at=n_start:n_end, labels=(n_start:n_end));legend('topleft',fill=c('green','red'),legend = c('Pair Selected','Pair not Selected'),inset=.02)
plot(penalty,RSS,col=colors,main='Penalty vs. RSS')
Ansjovis86
источник
незначительный комментарий: из-за использования createFolds вам также необходимо загрузить пакет 'caret'.
IWS
2
См. Теорему 2а «Уэйнрайт: острые пороги для восстановления с высокой размерностью и шумовой редкостью». В режиме, в котором вы находитесь, где истинная поддержка имеет фиксированную мощность 2, а p растет с фиксированным n, кажется вероятным, что при достаточном количестве функций могут быть очень высокие корреляции, что приводит к низкой вероятности успешного восстановления поддержки что вы заметили. (Тем не менее, поскольку векторы, отсутствующие в истинной поддержке, довольно малы (в среднем 0 отклонений 1), может показаться, что это не является причиной, поскольку функция истинного возраста имеет очень большие записи.)
user795305
1
@ Бен, я думаю, что это правильное объяснение, и учитывая популярность этого вопроса, было бы здорово, если бы вы могли дать ответ, который объясняет, почему это так.
NRH
1
@Maddenker ^всегда возвращает double для целочисленных или двойных аргументов в R. R также переключается в double, если произойдет переполнение целых чисел.
Роланд
1
К вашему сведению: я добавил обновленный скрипт на мою страницу github. В этом сценарии я использую меньше образцов, что вызывает проблему уже при 2 ^ 5 переменных. Это обеспечивает быстрое время выполнения и позволяет вам больше экспериментировать с данными: github.com/sjorsvanheuveln/LASSO_pair_problem
Ansjovis86

Ответы:

4

Эта проблема хорошо известна ученым и исследователям. Ответ, однако, не прост и больше относится, на мой взгляд, к оптимизации, чем к статистике. Люди пытались преодолеть эти недостатки, добавив дополнительный штраф за гребень, отсюда и упругая регрессия сети. Эта статья Tibshirani о проблеме (т.е. число ковариат больше, чем число наблюдений):p>n

Лассо является популярным инструментом для разреженной линейной регрессии, особенно для задач, в которых число переменных превышает количество наблюдений. Но когда p> n, критерий лассо не является строго выпуклым, и, следовательно, он может не иметь единственного минимизатора.

Как уже упоминалось, @ben, когда у вас есть 2e16 ковариат, мало чем отличается от того, что некоторые очень похожи на истинные ковариаты. Следовательно, почему вышеупомянутый пункт важен: LASSO безразличен к выбору любого из них.

Возможно, более уместно и совсем недавно (2013 г.) появилась еще одна статья Кандеса о том, что, даже когда статистические условия идеальны (некоррелированные предикторы, только несколько крупных эффектов), LASSO все еще дает ложные срабатывания, такие как то, что вы видите в своих данных:

В условиях регрессии, где объясняющие переменные имеют очень низкие корреляции и относительно мало эффектов, каждый из которых имеет большую величину, мы ожидаем, что Лассо найдет важные переменные с небольшим количеством ошибок, если таковые имеются. Эта статья показывает, что в режиме линейной разреженности - то есть, что доля переменных с неисчезающим эффектом стремится к константе, пусть даже малой, - это не может быть в действительности, даже когда расчетные переменные стохастически независимы ,

Мустафа С Эйса
источник
Я этого не знал. Я думал, что LASSO - это стандартный, надежный инструмент для определения разреженной модели (или, по крайней мере, это было мое впечатление от чтения двух книг Хасти и Тибширани и использования самого метода). Поскольку вы говорите, что проблема хорошо известна, знаете ли вы, есть ли решения / или альтернативные подходы?
DeltaIV
Если я правильно понимаю, эти результаты, по-видимому, относятся только к линейной разреженности, в то время как рассматриваемая проблема касается
сублинейной
@Ben, конечно, но это не делает бумагу неактуальной. Это одна из последних известных мне литературных публикаций, которая затрагивает эту проблему. Я думаю, что стоит показать что-то простое: даже при идеальных статистических условиях LASSO не обладает лучшими свойствами.
Мустафа С Эйса
@DeltaIV, LASSO - эвристика выпуклой оптимизации с целью выбора переменных. В книге Тибширани они показывают, что она может следовать тем же путем, что и AIC, или пошаговыми методами, но это не гарантия. На мой взгляд, большинство проблем связано с тем, что это эвристическая, а не реальная вещь, но вы отказываетесь от нее, чтобы получить выпуклость, которая обладает другими приятными свойствами.
Мустафа С Эйса