Для каждой строки в R-кадре данных

173

У меня есть фрейм данных, и для каждой строки в этом фрейме мне нужно выполнить несколько сложных поисков и добавить некоторые данные в файл.

DataFrame содержит научные результаты для выбранных лунок из 96-луночных планшетов, используемых в биологических исследованиях, поэтому я хочу сделать что-то вроде:

for (well in dataFrame) {
  wellName <- well$name    # string like "H1"
  plateName <- well$plate  # string like "plate67"
  wellID <- getWellID(wellName, plateName)
  cat(paste(wellID, well$value1, well$value2, sep=","), file=outputFile)
}

В моем процедурном мире я бы сделал что-то вроде:

for (row in dataFrame) {
    #look up stuff using data from the row
    #write stuff to the file
}

Что такое «путь R» для этого?

Карл Кориелл-Мартин
источник
Какой у вас вопрос здесь? Data.frame - это двумерный объект, и циклическое перемещение по строкам является совершенно нормальным способом выполнения действий, поскольку строки - это обычно наборы «наблюдений» за «переменными» в каждом столбце.
Дирк Эддельбюттель
16
в итоге я делаю: for (индекс в 1: nrow (dataFrame)) {row = dataFrame [index,]; # делать вещи со строкой}, которая никогда не казалась мне очень красивой.
Карл Кориелл-Мартин
1
GetWellID вызывает базу данных или что-нибудь? В противном случае Джонатан, вероятно, прав, и вы могли бы векторизовать это.
Шейн

Ответы:

103

Вы можете попробовать это, используя apply()функцию

> d
  name plate value1 value2
1    A    P1      1    100
2    B    P2      2    200
3    C    P3      3    300

> f <- function(x, output) {
 wellName <- x[1]
 plateName <- x[2]
 wellID <- 1
 print(paste(wellID, x[3], x[4], sep=","))
 cat(paste(wellID, x[3], x[4], sep=","), file= output, append = T, fill = T)
}

> apply(d, 1, f, output = 'outputfile')
knguyen
источник
76
Будьте осторожны, так как датафрейм преобразуется в матрицу, и в результате получается ( x) - вектор. Вот почему в приведенном выше примере должны использоваться числовые индексы; подход by () дает вам data.frame, который делает ваш код более надежным.
Даррен Кук
не работал для меня. Функция apply обрабатывает каждый x, заданный для f, как символьное значение, а не строку.
Захи
3
Обратите внимание, что вы можете ссылаться на столбцы по имени. Итак: wellName <- x[1]тоже может быть wellName <- x["name"].
Founddrama
1
Когда Даррен упомянул здравый смысл, он имел в виду что-то вроде изменения порядка столбцов. Этот ответ не будет работать, в то время как тот, что с by () будет работать.
HelloWorld
120

Вы можете использовать by()функцию:

by(dataFrame, 1:nrow(dataFrame), function(row) dostuff)

Но итерации по строкам напрямую, как это редко бывает то, что вы хотите; вы должны попытаться векторизовать вместо этого. Могу я спросить, что делает настоящая работа в цикле?

Джонатан Чанг
источник
5
это не будет работать хорошо, если во фрейме данных 0 строк, потому что 1:0он не пустой
sds
10
Простое решение для случая с 0 строками - использовать seq_len () , вставить seq_len(nrow(dataFrame))вместо 1:nrow(dataFrame).
Джим
13
Как вы на самом деле реализуете (строка)? Это столбец dataframe $? dataframe [somevariableNamehere]? Как вы на самом деле говорите, это ряд. Псевдокод "function (row) dostuff" как это будет выглядеть на самом деле?
uh_big_mike_boi
1
@Mike, измените dostuffв этом ответе на str(row) Вы увидите несколько строк, напечатанных в консоли, начинающихся с "'data.frame': 1 obs of x variable". Но будьте осторожны, переход dostuffна rowне возвращает объект data.frame для внешней функции в целом. Вместо этого он возвращает список однорядных фреймов данных.
pwilcox
91

Во-первых, точка зрения Джонатана о векторизации верна. Если ваша функция getWellID () векторизована, то вы можете пропустить цикл и просто использовать cat или write.csv:

write.csv(data.frame(wellid=getWellID(well$name, well$plate), 
         value1=well$value1, value2=well$value2), file=outputFile)

Если getWellID () не векторизован, то рекомендация Джонатана об использовании byили предложение knguyen'а applyдолжны сработать.

В противном случае, если вы действительно хотите использовать for, вы можете сделать что-то вроде этого:

for(i in 1:nrow(dataFrame)) {
    row <- dataFrame[i,]
    # do stuff with row
}

Вы также можете попробовать использовать foreachпакет, хотя он требует, чтобы вы ознакомились с этим синтаксисом. Вот простой пример:

library(foreach)
d <- data.frame(x=1:10, y=rnorm(10))
s <- foreach(d=iter(d, by='row'), .combine=rbind) %dopar% d

Последний вариант - использовать функцию из plyrпакета, и в этом случае соглашение будет очень похоже на функцию apply.

library(plyr)
ddply(dataFrame, .(x), function(x) { # do stuff })
Шейн
источник
Шейн, спасибо. Я не уверен, как написать векторизованный getWellID. Что мне нужно сделать прямо сейчас, так это копаться в существующем списке списков, чтобы найти его или вытащить из базы данных.
Карл Кориелл-Мартин
Не стесняйтесь публиковать вопрос getWellID (то есть можно ли эту функцию векторизовать отдельно), и я уверен, что я (или кто-то еще) отвечу на него.
Шейн
2
Даже если getWellID не векторизован, я думаю, вам следует использовать это решение и заменить getWellId на mapply(getWellId, well$name, well$plate).
Джонатан Чанг
Даже если вы извлекаете его из базы данных, вы можете извлечь их все сразу, а затем отфильтровать результат в R; это будет быстрее, чем итеративная функция.
Шейн
+1 за foreach- я собираюсь использовать ад из этого.
Джош Боде
20

Я думаю, что лучший способ сделать это с базовым R это:

for( i in rownames(df) )
   print(df[i, "column1"])

Преимущество перед for( i in 1:nrow(df))-approach заключается в том, что вы не попадете в беду, если dfпусто и nrow(df)=0.

Funkwecker
источник
17

Я использую эту простую служебную функцию:

rows = function(tab) lapply(
  seq_len(nrow(tab)),
  function(i) unclass(tab[i,,drop=F])
)

Или более быстрая, менее понятная форма:

rows = function(x) lapply(seq_len(nrow(x)), function(i) lapply(x,"[",i))

Эта функция просто разбивает data.frame на список строк. Затем вы можете сделать нормальное «для» над этим списком:

tab = data.frame(x = 1:3, y=2:4, z=3:5)
for (A in rows(tab)) {
    print(A$x + A$y * A$z)
}        

Ваш код из вопроса будет работать с минимальной модификацией:

for (well in rows(dataFrame)) {
  wellName <- well$name    # string like "H1"
  plateName <- well$plate  # string like "plate67"
  wellID <- getWellID(wellName, plateName)
  cat(paste(wellID, well$value1, well$value2, sep=","), file=outputFile)
}
Ł Łaniewski-Wołłk
источник
Доступ к прямому списку быстрее, чем к data.frame.
Ł Łaniewski-Wołłk
1
Просто понял, что еще быстрее сделать то же самое с двойным lapply: row = function (x) lapply (seq_len (nrow (x)), function (i) lapply (x, function (c) c [i]))
Ł Iewaniewski-Wołłk
Таким образом, внутренняя часть lapplyвыполняет итерации по столбцам всего набора данных x, присваивая каждому столбцу имя c, а затем извлекая ith-ую запись из этого вектора столбца. Это верно?
Аарон МакДейд
Очень хорошо! В моем случае, я должен был преобразовать из значений «фактора» к базовому значению: wellName <- as.character(well$name).
Стив
9

Мне было любопытно узнать время исполнения не векторизованных опций. Для этой цели я использовал функцию f, определенную knguyen

f <- function(x, output) {
  wellName <- x[1]
  plateName <- x[2]
  wellID <- 1
  print(paste(wellID, x[3], x[4], sep=","))
  cat(paste(wellID, x[3], x[4], sep=","), file= output, append = T, fill = T)
}

и фрейм данных, подобный тому, что в его примере:

n = 100; #number of rows for the data frame
d <- data.frame( name = LETTERS[ sample.int( 25, n, replace=T ) ],
                  plate = paste0( "P", 1:n ),
                  value1 = 1:n,
                  value2 = (1:n)*10 )

Я включил две векторизованные функции (наверняка быстрее, чем другие), чтобы сравнить подход cat () с функцией write.table () ...

library("ggplot2")
library( "microbenchmark" )
library( foreach )
library( iterators )

tm <- microbenchmark(S1 =
                       apply(d, 1, f, output = 'outputfile1'),
                     S2 = 
                       for(i in 1:nrow(d)) {
                         row <- d[i,]
                         # do stuff with row
                         f(row, 'outputfile2')
                       },
                     S3 = 
                       foreach(d1=iter(d, by='row'), .combine=rbind) %dopar% f(d1,"outputfile3"),
                     S4= {
                       print( paste(wellID=rep(1,n), d[,3], d[,4], sep=",") )
                       cat( paste(wellID=rep(1,n), d[,3], d[,4], sep=","), file= 'outputfile4', sep='\n',append=T, fill = F)                           
                     },
                     S5 = {
                       print( (paste(wellID=rep(1,n), d[,3], d[,4], sep=",")) )
                       write.table(data.frame(rep(1,n), d[,3], d[,4]), file='outputfile5', row.names=F, col.names=F, sep=",", append=T )
                     },
                     times=100L)
autoplot(tm)

Полученное изображение показывает, что применение дает лучшую производительность для не векторизованной версии, тогда как write.table (), кажется, превосходит cat (). ForEachRunningTime

Ферран Е
источник
6

Вы можете использовать by_rowфункцию из пакета purrrlyrдля этого:

myfn <- function(row) {
  #row is a tibble with one row, and the same 
  #number of columns as the original df
  #If you'd rather it be a list, you can use as.list(row)
}

purrrlyr::by_row(df, myfn)

По умолчанию возвращаемое значение from myfnпомещается в новый столбец списка в вызываемой df .out.

Если это единственный выход, который вы хотите, вы можете написать purrrlyr::by_row(df, myfn)$.out

RobinL
источник
2

Ну, так как вы попросили R эквивалентно другим языкам, я попытался сделать это. Кажется, работает, хотя я на самом деле не смотрел, какая техника более эффективна в R.

> myDf <- head(iris)
> myDf
Sepal.Length Sepal.Width Petal.Length Petal.Width Species
1          5.1         3.5          1.4         0.2  setosa
2          4.9         3.0          1.4         0.2  setosa
3          4.7         3.2          1.3         0.2  setosa
4          4.6         3.1          1.5         0.2  setosa
5          5.0         3.6          1.4         0.2  setosa
6          5.4         3.9          1.7         0.4  setosa
> nRowsDf <- nrow(myDf)
> for(i in 1:nRowsDf){
+ print(myDf[i,4])
+ }
[1] 0.2
[1] 0.2
[1] 0.2
[1] 0.2
[1] 0.2
[1] 0.4

Тем не менее, для категориальных столбцов он выберет вам фрейм данных, который вы можете набрать, используя as.character () при необходимости.

Амог Боркар
источник