Как объединить (объединить) фреймы данных (внутренний, внешний, левый, правый)

1233

Даны два фрейма данных:

df1 = data.frame(CustomerId = c(1:6), Product = c(rep("Toaster", 3), rep("Radio", 3)))
df2 = data.frame(CustomerId = c(2, 4, 6), State = c(rep("Alabama", 2), rep("Ohio", 1)))

df1
#  CustomerId Product
#           1 Toaster
#           2 Toaster
#           3 Toaster
#           4   Radio
#           5   Radio
#           6   Radio

df2
#  CustomerId   State
#           2 Alabama
#           4 Alabama
#           6    Ohio

Как я могу сделать стиль базы данных, то есть, стиль SQL, объединяет ? То есть как я могу получить:


Дополнительный кредит:

Как я могу сделать оператор выбора в стиле SQL?

Дэн Гольдштейн
источник
4
stat545-ubc.github.io/bit001_dplyr-cheatsheet.html ← мой любимый ответ на этот вопрос
изоморфизм
В Data Transformation с помощью шпаргалки dplyr, созданной и поддерживаемой RStudio, также есть отличная инфографика о том, как работают объединения в dplyr rstudio.com/resources/cheatsheets
Артур Йип,
2
Если вы пришли сюда вместо того, чтобы узнать о слиянии фреймов данных панд , этот ресурс можно найти здесь .
cs95

Ответы:

1350

Используя mergeфункцию и ее необязательные параметры:

Внутреннее соединение: merge(df1, df2) будет работать для этих примеров, потому что R автоматически объединяет кадры по общим именам переменных, но вы, скорее всего, захотите указать,merge(df1, df2, by = "CustomerId")чтобы убедиться, что вы подходите только по тем полям, которые вы хотите. Вы можете также использоватьby.xиby.yпараметрыесли совпадающие переменные имеют разные названия в разных кадрах данных.

Внешнее соединение: merge(x = df1, y = df2, by = "CustomerId", all = TRUE)

Левый внешний: merge(x = df1, y = df2, by = "CustomerId", all.x = TRUE)

Правый внешний: merge(x = df1, y = df2, by = "CustomerId", all.y = TRUE)

Перекрестное соединение: merge(x = df1, y = df2, by = NULL)

Как и в случае внутреннего соединения, вы, вероятно, захотите явно передать «CustomerId» в R в качестве соответствующей переменной. Я думаю, что почти всегда лучше явно указывать идентификаторы, по которым вы хотите объединить; безопаснее, если входные данные изменяются неожиданно и их легче читать позже.

Вы можете объединить в несколько столбцов, давая byвектор, например, by = c("CustomerId", "OrderId").

Если имена столбцов для объединения не совпадают, вы можете указать, например, by.x = "CustomerId_in_df1", by.y = "CustomerId_in_df2"где CustomerId_in_df1имя столбца в первом кадре данных и CustomerId_in_df2имя столбца во втором кадре данных. (Это также могут быть векторы, если вам нужно объединить несколько столбцов.)

Мэтт Паркер
источник
2
@MattParker Я использую пакет sqldf для целого ряда сложных запросов к фреймам данных, мне действительно нужно было выполнить самопересекающееся соединение (т.е. сам кросс-фрейм data.frame) Интересно, как оно сравнивается с точки зрения производительности ... . ???
Николас Гамильтон
9
@ADP Я никогда не использовал sqldf, поэтому не уверен насчет скорости. Если производительность является для вас серьезной проблемой, вам также следует изучить data.tableпакет - это совершенно новый набор синтаксиса соединения, но он радикально быстрее, чем все, о чем мы здесь говорим.
Мэтт Паркер
5
С большей ясностью и объяснением ..... mkmanu.wordpress.com/2016/04/08/…
Манодж Кумар
42
Небольшое дополнение, которое было полезно для меня - Когда вы хотите объединить, используя более одного столбца:merge(x=df1,y=df2, by.x=c("x_col1","x_col2"), by.y=c("y_col1","y_col2"))
Dileep Kumar Patchigolla
8
Это работает data.tableсейчас, та же функция, только быстрее.
Марбель
222

Я бы порекомендовал проверить пакет sqldf Габора Гротендика , который позволяет вам выражать эти операции в SQL.

library(sqldf)

## inner join
df3 <- sqldf("SELECT CustomerId, Product, State 
              FROM df1
              JOIN df2 USING(CustomerID)")

## left join (substitute 'right' for right join)
df4 <- sqldf("SELECT CustomerId, Product, State 
              FROM df1
              LEFT JOIN df2 USING(CustomerID)")

Я считаю, что синтаксис SQL является более простым и более естественным, чем его эквивалент R (но это может просто отражать мою предвзятость RDBMS).

Посмотрите sqlf GitHub Gabor для получения дополнительной информации о соединениях.

medriscoll
источник
198

Существует метод data.table для внутреннего объединения, который очень экономит время и память (и необходим для некоторых больших data.frames):

library(data.table)

dt1 <- data.table(df1, key = "CustomerId") 
dt2 <- data.table(df2, key = "CustomerId")

joined.dt1.dt.2 <- dt1[dt2]

mergeтакже работает на data.tables (так как это generic и вызывает merge.data.table)

merge(dt1, dt2)

документирование data.table для stackoverflow:
как выполнить операцию слияния data.table
Перевод SQL-соединений по внешним ключам в R синтаксис data.table
Эффективные альтернативы слияния для более крупных data.frames R
Как выполнить базовое левое внешнее соединение с data.table в R?

Еще одним вариантом является joinфункция, найденная в пакете plyr.

library(plyr)

join(df1, df2,
     type = "inner")

#   CustomerId Product   State
# 1          2 Toaster Alabama
# 2          4   Radio Alabama
# 3          6   Radio    Ohio

Варианты type: inner, left, right, full.

From ?join: В отличие от merge, [ join] сохраняет порядок x независимо от того, какой тип соединения используется.

Этьен Лоу-Декари
источник
8
+1 за упоминание plyr::join. Микробенчмаркинг показывает, что он работает примерно в 3 раза быстрее, чем merge.
Бистерфилд
20
Тем не менее, data.tableэто гораздо быстрее, чем оба. Существует также большая поддержка в SO, я не вижу, чтобы многие авторы пакетов отвечали на вопросы так часто, как data.tableавторы или участники.
Марбель
1
Каков data.tableсинтаксис для объединения списка фреймов данных ?
Александр Блех
5
Обратите внимание: dt1 [dt2] является правым внешним соединением (не «чистым» внутренним соединением), так что ВСЕ строки из dt2 будут частью результата, даже если в dt1 нет подходящей строки. Воздействие. В результате вы получите потенциально нежелательные строки, если у вас есть значения ключей в dt2, которые не соответствуют значениям ключей dt1.
Р Йода
8
@RYoda вы можете просто указать nomatch = 0Lв этом случае.
Давид Аренбург
181

Вы также можете делать объединения, используя удивительный пакет dplyr Хэдли Уикхэма .

library(dplyr)

#make sure that CustomerId cols are both type numeric
#they ARE not using the provided code in question and dplyr will complain
df1$CustomerId <- as.numeric(df1$CustomerId)
df2$CustomerId <- as.numeric(df2$CustomerId)

Мутирующие объединения: добавление столбцов в df1 с использованием совпадений в df2

#inner
inner_join(df1, df2)

#left outer
left_join(df1, df2)

#right outer
right_join(df1, df2)

#alternate right outer
left_join(df2, df1)

#full join
full_join(df1, df2)

Фильтрация объединений: отфильтровывать строки в df1, не изменять столбцы

semi_join(df1, df2) #keep only observations in df1 that match in df2.
anti_join(df1, df2) #drops all observations in df1 that match in df2.
Эндрю Барр
источник
16
Зачем вам нужно конвертировать CustomerIdв числовые? Я не вижу упоминаний в документации (для обоих plyrи dplyr) об этом типе ограничений. Будет ли ваш код работать неправильно, если столбец слияния будет иметь characterтип (особенно интересует plyr)? Я что-то пропустил?
Александр Блех
Можно ли использовать semi_join (df1, df2, df3, df4), чтобы сохранить только наблюдения в df1, которые соответствуют остальным столбцам?
Ghose Bishwajit
@GhoseBishwajit Предполагая, что вы имеете в виду остальные кадры данных вместо столбцов, вы можете использовать rbind для df2, df3 и df4, если они имеют одинаковую структуру, например, semi_join (df1, rbind (df2, df3, df4))
abhy3
Да, я имел в виду датафрейм. Но они имеют разную структуру, так как некоторые из них отсутствуют в определенных строках. Для четырех фреймов данных у меня есть данные по четырем различным показателям (ВВП, ВНП GINI, MMR) для разных стран. Я хочу объединить данные таким образом, чтобы по всем четырем показателям присутствовали только те страны, которые представлены.
Ghose Bishwajit
86

Есть несколько хороших примеров этого в R Wiki . Я украду пару здесь:

Метод слияния

Поскольку ваши ключи называются одинаково, короткий способ выполнить внутреннее соединение - это merge ():

merge(df1,df2)

полное внутреннее объединение (все записи из обеих таблиц) может быть создано с ключевым словом «all»:

merge(df1,df2, all=TRUE)

левое внешнее соединение df1 и df2:

merge(df1,df2, all.x=TRUE)

правое внешнее соединение df1 и df2:

merge(df1,df2, all.y=TRUE)

Вы можете перевернуть их, дать им пощечину и потереть их, чтобы получить два других внешних объединения, о которых вы спрашивали :)

Подстрочный метод

Левое внешнее объединение с df1 слева с использованием метода индекса:

df1[,"State"]<-df2[df1[ ,"Product"], "State"]

Другая комбинация внешних объединений может быть создана путем добавления примера нижнего индекса внешнего соединения. (да, я знаю, что это эквивалентно высказыванию «Я оставлю это как упражнение для читателя ...»)

JD Long
источник
4
Ссылка "R Wiki" не работает.
zx8754
79

Новое в 2014 году:

Особенно, если вы также заинтересованы в манипулировании данными в целом (включая сортировку, фильтрацию, поднаборы, суммирование и т. Д.), Вы обязательно должны взглянуть на это dplyr, которое поставляется с множеством функций, предназначенных для облегчения вашей работы именно с фреймами данных и некоторые другие типы баз данных. Он даже предлагает довольно сложный интерфейс SQL и даже функцию для преобразования (большей части) кода SQL непосредственно в R.

Четыре связанные с присоединением функции в пакете dplyr:

  • inner_join(x, y, by = NULL, copy = FALSE, ...): вернуть все строки из x, где есть совпадающие значения в y, и все столбцы из x и y
  • left_join(x, y, by = NULL, copy = FALSE, ...): вернуть все строки из x и все столбцы из x и y
  • semi_join(x, y, by = NULL, copy = FALSE, ...): вернуть все строки из x, где есть соответствующие значения в y, оставив только столбцы из x.
  • anti_join(x, y, by = NULL, copy = FALSE, ...): вернуть все строки из x, где нет соответствующих значений в y, оставив только столбцы из x

Это все здесь очень подробно.

Выбор столбцов может быть сделан с помощью select(df,"column"). Если для вас этого недостаточно, есть sql()функция, в которую вы можете ввести SQL-код как есть, и он выполнит указанную вами операцию так же, как вы писали в R все время (для получения дополнительной информации, пожалуйста, обратитесь к на виньетка с базой данных / dplyr ). Например, при правильном применении sql("SELECT * FROM hflights")выберет все столбцы из таблицы dplyr «hflights» («tbl»).

Maj
источник
Определенно лучшее решение, учитывая важность, которую пакет dplyr приобрел за последние два года.
Марко Фумагалли
72

Обновление методов data.table для объединения наборов данных. Ниже приведены примеры для каждого типа соединения. Есть два метода, один из которых [.data.tableпри передаче второго data.table в качестве первого аргумента подмножеству, другой способ - использовать mergeфункцию, которая отправляет быстрый метод data.table.

df1 = data.frame(CustomerId = c(1:6), Product = c(rep("Toaster", 3), rep("Radio", 3)))
df2 = data.frame(CustomerId = c(2L, 4L, 7L), State = c(rep("Alabama", 2), rep("Ohio", 1))) # one value changed to show full outer join

library(data.table)

dt1 = as.data.table(df1)
dt2 = as.data.table(df2)
setkey(dt1, CustomerId)
setkey(dt2, CustomerId)
# right outer join keyed data.tables
dt1[dt2]

setkey(dt1, NULL)
setkey(dt2, NULL)
# right outer join unkeyed data.tables - use `on` argument
dt1[dt2, on = "CustomerId"]

# left outer join - swap dt1 with dt2
dt2[dt1, on = "CustomerId"]

# inner join - use `nomatch` argument
dt1[dt2, nomatch=NULL, on = "CustomerId"]

# anti join - use `!` operator
dt1[!dt2, on = "CustomerId"]

# inner join - using merge method
merge(dt1, dt2, by = "CustomerId")

# full outer join
merge(dt1, dt2, by = "CustomerId", all = TRUE)

# see ?merge.data.table arguments for other cases

Ниже приведены тесты производительности базы R, sqldf, dplyr и data.table.
Бенчмарк тестирует наборы данных без ключей / без индекса. Тестирование выполняется для наборов данных 50M-1, в столбце объединения есть общие значения 50M-2, поэтому каждый сценарий (внутренний, левый, правый, полный) можно протестировать, и объединение все еще не является тривиальным. Это тип объединения, который хорошо подчеркивает алгоритмы объединения. Задержки являются из sqldf:0.4.11, dplyr:0.7.8, data.table:1.12.0.

# inner
Unit: seconds
   expr       min        lq      mean    median        uq       max neval
   base 111.66266 111.66266 111.66266 111.66266 111.66266 111.66266     1
  sqldf 624.88388 624.88388 624.88388 624.88388 624.88388 624.88388     1
  dplyr  51.91233  51.91233  51.91233  51.91233  51.91233  51.91233     1
     DT  10.40552  10.40552  10.40552  10.40552  10.40552  10.40552     1
# left
Unit: seconds
   expr        min         lq       mean     median         uq        max 
   base 142.782030 142.782030 142.782030 142.782030 142.782030 142.782030     
  sqldf 613.917109 613.917109 613.917109 613.917109 613.917109 613.917109     
  dplyr  49.711912  49.711912  49.711912  49.711912  49.711912  49.711912     
     DT   9.674348   9.674348   9.674348   9.674348   9.674348   9.674348       
# right
Unit: seconds
   expr        min         lq       mean     median         uq        max
   base 122.366301 122.366301 122.366301 122.366301 122.366301 122.366301     
  sqldf 611.119157 611.119157 611.119157 611.119157 611.119157 611.119157     
  dplyr  50.384841  50.384841  50.384841  50.384841  50.384841  50.384841     
     DT   9.899145   9.899145   9.899145   9.899145   9.899145   9.899145     
# full
Unit: seconds
  expr       min        lq      mean    median        uq       max neval
  base 141.79464 141.79464 141.79464 141.79464 141.79464 141.79464     1
 dplyr  94.66436  94.66436  94.66436  94.66436  94.66436  94.66436     1
    DT  21.62573  21.62573  21.62573  21.62573  21.62573  21.62573     1

Имейте в виду, что существуют другие типы объединений, которые можно выполнить с помощью data.table:
- обновления при объединении - если вы хотите искать значения из другой таблицы в основной таблице
- агрегировать при объединении - если вы хотите объединить по ключу, к которому вы присоединяетесь, у вас нет материализовать все результаты объединения
- перекрывающееся объединение - если вы хотите объединить по диапазонам
- скользящее объединение - если вы хотите, чтобы объединение могло соответствовать значениям из предыдущих или следующих строк путем их наматывания вперед или назад
- неэквивалентное объединение - если ваше условие соединения не равно

Код для воспроизведения:

library(microbenchmark)
library(sqldf)
library(dplyr)
library(data.table)
sapply(c("sqldf","dplyr","data.table"), packageVersion, simplify=FALSE)

n = 5e7
set.seed(108)
df1 = data.frame(x=sample(n,n-1L), y1=rnorm(n-1L))
df2 = data.frame(x=sample(n,n-1L), y2=rnorm(n-1L))
dt1 = as.data.table(df1)
dt2 = as.data.table(df2)

mb = list()
# inner join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x"),
               sqldf = sqldf("SELECT * FROM df1 INNER JOIN df2 ON df1.x = df2.x"),
               dplyr = inner_join(df1, df2, by = "x"),
               DT = dt1[dt2, nomatch=NULL, on = "x"]) -> mb$inner

# left outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all.x = TRUE),
               sqldf = sqldf("SELECT * FROM df1 LEFT OUTER JOIN df2 ON df1.x = df2.x"),
               dplyr = left_join(df1, df2, by = c("x"="x")),
               DT = dt2[dt1, on = "x"]) -> mb$left

# right outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all.y = TRUE),
               sqldf = sqldf("SELECT * FROM df2 LEFT OUTER JOIN df1 ON df2.x = df1.x"),
               dplyr = right_join(df1, df2, by = "x"),
               DT = dt1[dt2, on = "x"]) -> mb$right

# full outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all = TRUE),
               dplyr = full_join(df1, df2, by = "x"),
               DT = merge(dt1, dt2, by = "x", all = TRUE)) -> mb$full

lapply(mb, print) -> nul
jangorecki
источник
Стоит ли добавлять пример, показывающий, как использовать разные имена столбцов в on = ?
SymbolixAU
1
@Symbolix, мы можем дождаться релиза 1.9.8, так как он добавит операторы on
неравных
Другая мысль; Стоит ли добавить примечание, что с аргументом merge.data.tableпо умолчанию sort = TRUEесть ключ, который добавляет ключ во время слияния и оставляет его там в результате. Это то, на что нужно обратить внимание, особенно если вы пытаетесь избежать установки клавиш.
SymbolixAU
1
Я удивлен, что никто не упомянул, что большинство из них не работают, если есть дупли ...
сентября
@statquant Вы можете сделать декартово объединение data.table, что вы имеете в виду? Можете ли вы быть более конкретным, пожалуйста.
Дэвид Аренбург
32

В dplyr начиная с 0.4 реализованы все эти объединения, в том числе outer_join, но стоит отметить, что в первые несколько выпусков до 0.4 он раньше не предлагал outer_join, и в результате было довольно много плохого хакерского обходного пользовательского кода, плавающего довольно долго впоследствии (вы все еще можете найти такой код в SO, ответы Kaggle, github того периода. Следовательно, этот ответ по-прежнему служит полезной цели.)

Основные моменты релиза, связанные с присоединением :

версия 0.5 (6/2016)

  • Обработка для типа POSIXct, часовых поясов, дубликатов, различных уровней факторов. Лучше ошибки и предупреждения.
  • Новый суффиксный аргумент для управления тем, что суффикс дублированные имена переменных получают (# 1296)

v0.4.0 (1/2015)

  • Реализация правого соединения и внешнего соединения (# 96)
  • Мутирующие объединения, которые добавляют новые переменные в одну таблицу из соответствующих строк в другой. Фильтрация объединений, которые фильтруют наблюдения из одной таблицы на основе того, соответствуют ли они наблюдениям из другой таблицы.

v0.3 ( 10/2014 )

  • Теперь можно left_join по различным переменным в каждой таблице: df1%>% left_join (df2, c ("var1" = "var2"))

версия 0.2 ( 5/2014 )

  • * _join () больше не переставляет имена столбцов (# 324)

v0.1.3 (4/2014)

Методы обхода комментариев Хадли в этом выпуске:

  • right_join (x, y) - это то же самое, что left_join (y, x) в терминах строк, только столбцы будут разных порядков. Легко обходится с помощью select (new_column_order)
  • external_join в основном представляет собой union (left_join (x, y), right_join (x, y)) - т.е. сохраняет все строки в обоих фреймах данных.
SMCI
источник
1
@ Грегор: нет, это не должно быть удалено. Для пользователей R важно знать, что возможности объединения отсутствовали в течение многих лет, так как большая часть кода содержит обходные пути или специальные реализации вручную, или рекламное приложение с векторами индексов, или, что еще хуже, избегает использования этих пакетов или операции на всех. Каждую неделю я вижу такие вопросы на SO. Мы будем устранять путаницу на долгие годы.
smci
@ Грегор и другие, кто спросил: обновил, суммируя исторические изменения и то, что отсутствовало в течение нескольких лет, когда задавался этот вопрос. Это показывает, почему код того периода был в основном хакерским или избегал использования соединений dplyr и отступал от слияния. Если вы проверите исторические базы кода в SO и Kaggle, вы все равно увидите задержку принятия и серьезно запутанный пользовательский код, который привел к этому. Дайте мне знать, если вам все еще не хватает этого ответа.
smci
@ Грегор: Те из нас, кто принял его в середине 2014 года, не выбрали лучший момент. (Я думал, что более ранние (0.0.x) релизы были где-то в 2013 году, но нет, моя ошибка.) Несмотря на это, в 2015 году еще было много дерьмового кода, именно это побудило меня опубликовать это, я пытался демистифицировать сырой я нашел на Kaggle, GitHub, так.
smci
2
Да, я понимаю, и я думаю, что вы хорошо справляетесь с этим. (Я был одним из первых пользователей тоже, и , хотя я до сих пор , как dplyrсинтаксис, переход от lazyevalк rlangбэкэндам сломал кучу коды для меня, что заставило меня , чтобы узнать больше data.table, и теперь я в основном использовать data.table.)
Грегор Томас
@ Грегор: интересно, можете ли вы указать мне какие-либо вопросы (ваши или чьи-либо), которые охватывают это? Кажется , каждый из нашего принятия plyr/ dplyr/ data.table/ tidyverse зависит огромно , на котором год мы начали, и что (эмбриональный) состояние пакеты были тогда, в отличие от теперь ...
SMCI
25

Объединив два фрейма данных с ~ 1 миллионом строк в каждом, один с двумя столбцами, а другой с ~ 20, я неожиданно обнаружил, merge(..., all.x = TRUE, all.y = TRUE)что он быстрее dplyr::full_join(). Это с dplyr v0.4

Слияние занимает ~ 17 секунд, full_join - ~ 65 секунд.

Впрочем, немного еды, так как я обычно использую dplyr для манипуляций.

BradP
источник
24

В случае левого соединения с количеством элементов 0..*:0..1или правого соединения с количеством элементов 0..1:0..*можно назначить на месте односторонние столбцы из 0..1рамы (таблицы) непосредственно на раму ( 0..*таблицу) и, таким образом, избежать создания совершенно новая таблица данных. Для этого необходимо сопоставить ключевые столбцы от joinee в joiner и проиндексировать + упорядочить строки joiner соответственно для назначения.

Если ключ представляет собой один столбец, то match()для сопоставления мы можем использовать один вызов . Это тот случай, который я расскажу в этом ответе.

Вот пример, основанный на OP, за исключением того, что я добавил дополнительную строку df2с идентификатором 7, чтобы проверить случай несоответствующего ключа в столяре. Это фактически df1оставленное соединение df2:

df1 <- data.frame(CustomerId=1:6,Product=c(rep('Toaster',3L),rep('Radio',3L)));
df2 <- data.frame(CustomerId=c(2L,4L,6L,7L),State=c(rep('Alabama',2L),'Ohio','Texas'));
df1[names(df2)[-1L]] <- df2[match(df1[,1L],df2[,1L]),-1L];
df1;
##   CustomerId Product   State
## 1          1 Toaster    <NA>
## 2          2 Toaster Alabama
## 3          3 Toaster    <NA>
## 4          4   Radio Alabama
## 5          5   Radio    <NA>
## 6          6   Radio    Ohio

Выше я жестко закодировал предположение, что ключевой столбец является первым столбцом обеих входных таблиц. Я бы сказал, что в целом это не является необоснованным предположением, поскольку, если у вас есть data.frame с ключевым столбцом, было бы странно, если бы он не был установлен в качестве первого столбца data.frame из начало. И вы всегда можете изменить порядок столбцов, чтобы сделать это так. Преимущественным следствием этого предположения является то, что имя ключевого столбца не обязательно должно быть жестко закодировано, хотя я полагаю, что оно просто заменяет одно предположение другим. Краткость - это еще одно преимущество целочисленной индексации, а также скорость. В нижеприведенных тестах я изменю реализацию на использование индексации имен строк в соответствии с конкурирующими реализациями.

Я думаю, что это особенно подходящее решение, если у вас есть несколько таблиц, которые вы хотите объединить против одной большой таблицы. Повторное восстановление всей таблицы для каждого слияния было бы ненужным и неэффективным.

С другой стороны, если вам нужно, чтобы участник оставался неизменным в ходе этой операции по какой-либо причине, то это решение не может быть использовано, поскольку оно изменяет участника напрямую. Хотя в этом случае вы могли бы просто сделать копию и выполнить ее назначение на месте.


Как примечание, я кратко рассмотрел возможные решения для соответствия многоколоночных ключей. К сожалению, единственные подходящие решения, которые я нашел, были:

  • неэффективные объединения. Например match(interaction(df1$a,df1$b),interaction(df2$a,df2$b)), или та же идея с paste().
  • неэффективные декартовы союзы, например outer(df1$a,df2$a,`==`) & outer(df1$b,df2$b,`==`).
  • base R merge()и эквивалентные основанные на пакетах функции слияния, которые всегда выделяют новую таблицу для возврата объединенного результата и, таким образом, не подходят для решения на основе назначения на месте.

Например, см. Сопоставление нескольких столбцов в разных фреймах данных и получение другого столбца в качестве результата , сопоставление двух столбцов с двумя другими столбцами , Сопоставление по нескольким столбцам и ответ на этот вопрос, в котором я изначально придумал решение на месте, Объединить два кадра данных с различным количеством строк в R .


Бенчмаркинг

Я решил сделать свой собственный сравнительный анализ, чтобы увидеть, как подход на месте назначения сравнивается с другими решениями, которые были предложены в этом вопросе.

Код тестирования:

library(microbenchmark);
library(data.table);
library(sqldf);
library(plyr);
library(dplyr);

solSpecs <- list(
    merge=list(testFuncs=list(
        inner=function(df1,df2,key) merge(df1,df2,key),
        left =function(df1,df2,key) merge(df1,df2,key,all.x=T),
        right=function(df1,df2,key) merge(df1,df2,key,all.y=T),
        full =function(df1,df2,key) merge(df1,df2,key,all=T)
    )),
    data.table.unkeyed=list(argSpec='data.table.unkeyed',testFuncs=list(
        inner=function(dt1,dt2,key) dt1[dt2,on=key,nomatch=0L,allow.cartesian=T],
        left =function(dt1,dt2,key) dt2[dt1,on=key,allow.cartesian=T],
        right=function(dt1,dt2,key) dt1[dt2,on=key,allow.cartesian=T],
        full =function(dt1,dt2,key) merge(dt1,dt2,key,all=T,allow.cartesian=T) ## calls merge.data.table()
    )),
    data.table.keyed=list(argSpec='data.table.keyed',testFuncs=list(
        inner=function(dt1,dt2) dt1[dt2,nomatch=0L,allow.cartesian=T],
        left =function(dt1,dt2) dt2[dt1,allow.cartesian=T],
        right=function(dt1,dt2) dt1[dt2,allow.cartesian=T],
        full =function(dt1,dt2) merge(dt1,dt2,all=T,allow.cartesian=T) ## calls merge.data.table()
    )),
    sqldf.unindexed=list(testFuncs=list( ## note: must pass connection=NULL to avoid running against the live DB connection, which would result in collisions with the residual tables from the last query upload
        inner=function(df1,df2,key) sqldf(paste0('select * from df1 inner join df2 using(',paste(collapse=',',key),')'),connection=NULL),
        left =function(df1,df2,key) sqldf(paste0('select * from df1 left join df2 using(',paste(collapse=',',key),')'),connection=NULL),
        right=function(df1,df2,key) sqldf(paste0('select * from df2 left join df1 using(',paste(collapse=',',key),')'),connection=NULL) ## can't do right join proper, not yet supported; inverted left join is equivalent
        ##full =function(df1,df2,key) sqldf(paste0('select * from df1 full join df2 using(',paste(collapse=',',key),')'),connection=NULL) ## can't do full join proper, not yet supported; possible to hack it with a union of left joins, but too unreasonable to include in testing
    )),
    sqldf.indexed=list(testFuncs=list( ## important: requires an active DB connection with preindexed main.df1 and main.df2 ready to go; arguments are actually ignored
        inner=function(df1,df2,key) sqldf(paste0('select * from main.df1 inner join main.df2 using(',paste(collapse=',',key),')')),
        left =function(df1,df2,key) sqldf(paste0('select * from main.df1 left join main.df2 using(',paste(collapse=',',key),')')),
        right=function(df1,df2,key) sqldf(paste0('select * from main.df2 left join main.df1 using(',paste(collapse=',',key),')')) ## can't do right join proper, not yet supported; inverted left join is equivalent
        ##full =function(df1,df2,key) sqldf(paste0('select * from main.df1 full join main.df2 using(',paste(collapse=',',key),')')) ## can't do full join proper, not yet supported; possible to hack it with a union of left joins, but too unreasonable to include in testing
    )),
    plyr=list(testFuncs=list(
        inner=function(df1,df2,key) join(df1,df2,key,'inner'),
        left =function(df1,df2,key) join(df1,df2,key,'left'),
        right=function(df1,df2,key) join(df1,df2,key,'right'),
        full =function(df1,df2,key) join(df1,df2,key,'full')
    )),
    dplyr=list(testFuncs=list(
        inner=function(df1,df2,key) inner_join(df1,df2,key),
        left =function(df1,df2,key) left_join(df1,df2,key),
        right=function(df1,df2,key) right_join(df1,df2,key),
        full =function(df1,df2,key) full_join(df1,df2,key)
    )),
    in.place=list(testFuncs=list(
        left =function(df1,df2,key) { cns <- setdiff(names(df2),key); df1[cns] <- df2[match(df1[,key],df2[,key]),cns]; df1; },
        right=function(df1,df2,key) { cns <- setdiff(names(df1),key); df2[cns] <- df1[match(df2[,key],df1[,key]),cns]; df2; }
    ))
);

getSolTypes <- function() names(solSpecs);
getJoinTypes <- function() unique(unlist(lapply(solSpecs,function(x) names(x$testFuncs))));
getArgSpec <- function(argSpecs,key=NULL) if (is.null(key)) argSpecs$default else argSpecs[[key]];

initSqldf <- function() {
    sqldf(); ## creates sqlite connection on first run, cleans up and closes existing connection otherwise
    if (exists('sqldfInitFlag',envir=globalenv(),inherits=F) && sqldfInitFlag) { ## false only on first run
        sqldf(); ## creates a new connection
    } else {
        assign('sqldfInitFlag',T,envir=globalenv()); ## set to true for the one and only time
    }; ## end if
    invisible();
}; ## end initSqldf()

setUpBenchmarkCall <- function(argSpecs,joinType,solTypes=getSolTypes(),env=parent.frame()) {
    ## builds and returns a list of expressions suitable for passing to the list argument of microbenchmark(), and assigns variables to resolve symbol references in those expressions
    callExpressions <- list();
    nms <- character();
    for (solType in solTypes) {
        testFunc <- solSpecs[[solType]]$testFuncs[[joinType]];
        if (is.null(testFunc)) next; ## this join type is not defined for this solution type
        testFuncName <- paste0('tf.',solType);
        assign(testFuncName,testFunc,envir=env);
        argSpecKey <- solSpecs[[solType]]$argSpec;
        argSpec <- getArgSpec(argSpecs,argSpecKey);
        argList <- setNames(nm=names(argSpec$args),vector('list',length(argSpec$args)));
        for (i in seq_along(argSpec$args)) {
            argName <- paste0('tfa.',argSpecKey,i);
            assign(argName,argSpec$args[[i]],envir=env);
            argList[[i]] <- if (i%in%argSpec$copySpec) call('copy',as.symbol(argName)) else as.symbol(argName);
        }; ## end for
        callExpressions[[length(callExpressions)+1L]] <- do.call(call,c(list(testFuncName),argList),quote=T);
        nms[length(nms)+1L] <- solType;
    }; ## end for
    names(callExpressions) <- nms;
    callExpressions;
}; ## end setUpBenchmarkCall()

harmonize <- function(res) {
    res <- as.data.frame(res); ## coerce to data.frame
    for (ci in which(sapply(res,is.factor))) res[[ci]] <- as.character(res[[ci]]); ## coerce factor columns to character
    for (ci in which(sapply(res,is.logical))) res[[ci]] <- as.integer(res[[ci]]); ## coerce logical columns to integer (works around sqldf quirk of munging logicals to integers)
    ##for (ci in which(sapply(res,inherits,'POSIXct'))) res[[ci]] <- as.double(res[[ci]]); ## coerce POSIXct columns to double (works around sqldf quirk of losing POSIXct class) ----- POSIXct doesn't work at all in sqldf.indexed
    res <- res[order(names(res))]; ## order columns
    res <- res[do.call(order,res),]; ## order rows
    res;
}; ## end harmonize()

checkIdentical <- function(argSpecs,solTypes=getSolTypes()) {
    for (joinType in getJoinTypes()) {
        callExpressions <- setUpBenchmarkCall(argSpecs,joinType,solTypes);
        if (length(callExpressions)<2L) next;
        ex <- harmonize(eval(callExpressions[[1L]]));
        for (i in seq(2L,len=length(callExpressions)-1L)) {
            y <- harmonize(eval(callExpressions[[i]]));
            if (!isTRUE(all.equal(ex,y,check.attributes=F))) {
                ex <<- ex;
                y <<- y;
                solType <- names(callExpressions)[i];
                stop(paste0('non-identical: ',solType,' ',joinType,'.'));
            }; ## end if
        }; ## end for
    }; ## end for
    invisible();
}; ## end checkIdentical()

testJoinType <- function(argSpecs,joinType,solTypes=getSolTypes(),metric=NULL,times=100L) {
    callExpressions <- setUpBenchmarkCall(argSpecs,joinType,solTypes);
    bm <- microbenchmark(list=callExpressions,times=times);
    if (is.null(metric)) return(bm);
    bm <- summary(bm);
    res <- setNames(nm=names(callExpressions),bm[[metric]]);
    attr(res,'unit') <- attr(bm,'unit');
    res;
}; ## end testJoinType()

testAllJoinTypes <- function(argSpecs,solTypes=getSolTypes(),metric=NULL,times=100L) {
    joinTypes <- getJoinTypes();
    resList <- setNames(nm=joinTypes,lapply(joinTypes,function(joinType) testJoinType(argSpecs,joinType,solTypes,metric,times)));
    if (is.null(metric)) return(resList);
    units <- unname(unlist(lapply(resList,attr,'unit')));
    res <- do.call(data.frame,c(list(join=joinTypes),setNames(nm=solTypes,rep(list(rep(NA_real_,length(joinTypes))),length(solTypes))),list(unit=units,stringsAsFactors=F)));
    for (i in seq_along(resList)) res[i,match(names(resList[[i]]),names(res))] <- resList[[i]];
    res;
}; ## end testAllJoinTypes()

testGrid <- function(makeArgSpecsFunc,sizes,overlaps,solTypes=getSolTypes(),joinTypes=getJoinTypes(),metric='median',times=100L) {

    res <- expand.grid(size=sizes,overlap=overlaps,joinType=joinTypes,stringsAsFactors=F);
    res[solTypes] <- NA_real_;
    res$unit <- NA_character_;
    for (ri in seq_len(nrow(res))) {

        size <- res$size[ri];
        overlap <- res$overlap[ri];
        joinType <- res$joinType[ri];

        argSpecs <- makeArgSpecsFunc(size,overlap);

        checkIdentical(argSpecs,solTypes);

        cur <- testJoinType(argSpecs,joinType,solTypes,metric,times);
        res[ri,match(names(cur),names(res))] <- cur;
        res$unit[ri] <- attr(cur,'unit');

    }; ## end for

    res;

}; ## end testGrid()

Вот пример из примера, основанного на OP, который я продемонстрировал ранее:

## OP's example, supplemented with a non-matching row in df2
argSpecs <- list(
    default=list(copySpec=1:2,args=list(
        df1 <- data.frame(CustomerId=1:6,Product=c(rep('Toaster',3L),rep('Radio',3L))),
        df2 <- data.frame(CustomerId=c(2L,4L,6L,7L),State=c(rep('Alabama',2L),'Ohio','Texas')),
        'CustomerId'
    )),
    data.table.unkeyed=list(copySpec=1:2,args=list(
        as.data.table(df1),
        as.data.table(df2),
        'CustomerId'
    )),
    data.table.keyed=list(copySpec=1:2,args=list(
        setkey(as.data.table(df1),CustomerId),
        setkey(as.data.table(df2),CustomerId)
    ))
);
## prepare sqldf
initSqldf();
sqldf('create index df1_key on df1(CustomerId);'); ## upload and create an sqlite index on df1
sqldf('create index df2_key on df2(CustomerId);'); ## upload and create an sqlite index on df2

checkIdentical(argSpecs);

testAllJoinTypes(argSpecs,metric='median');
##    join    merge data.table.unkeyed data.table.keyed sqldf.unindexed sqldf.indexed      plyr    dplyr in.place         unit
## 1 inner  644.259           861.9345          923.516        9157.752      1580.390  959.2250 270.9190       NA microseconds
## 2  left  713.539           888.0205          910.045        8820.334      1529.714  968.4195 270.9185 224.3045 microseconds
## 3 right 1221.804           909.1900          923.944        8930.668      1533.135 1063.7860 269.8495 218.1035 microseconds
## 4  full 1302.203          3107.5380         3184.729              NA            NA 1593.6475 270.7055       NA microseconds

Здесь я сравниваю случайные входные данные, пробуя разные шкалы и разные комбинации клавиш для двух таблиц ввода. Этот тест по-прежнему ограничен случаем целочисленного ключа из одного столбца. Кроме того, чтобы гарантировать, что решение на месте будет работать как для левого, так и для правого объединений одних и тех же таблиц, все данные случайного теста используют количество 0..1:0..1элементов. Это реализуется путем выборки без замены ключевого столбца первого data.frame при создании ключевого столбца второго data.frame.

makeArgSpecs.singleIntegerKey.optionalOneToOne <- function(size,overlap) {

    com <- as.integer(size*overlap);

    argSpecs <- list(
        default=list(copySpec=1:2,args=list(
            df1 <- data.frame(id=sample(size),y1=rnorm(size),y2=rnorm(size)),
            df2 <- data.frame(id=sample(c(if (com>0L) sample(df1$id,com) else integer(),seq(size+1L,len=size-com))),y3=rnorm(size),y4=rnorm(size)),
            'id'
        )),
        data.table.unkeyed=list(copySpec=1:2,args=list(
            as.data.table(df1),
            as.data.table(df2),
            'id'
        )),
        data.table.keyed=list(copySpec=1:2,args=list(
            setkey(as.data.table(df1),id),
            setkey(as.data.table(df2),id)
        ))
    );
    ## prepare sqldf
    initSqldf();
    sqldf('create index df1_key on df1(id);'); ## upload and create an sqlite index on df1
    sqldf('create index df2_key on df2(id);'); ## upload and create an sqlite index on df2

    argSpecs;

}; ## end makeArgSpecs.singleIntegerKey.optionalOneToOne()

## cross of various input sizes and key overlaps
sizes <- c(1e1L,1e3L,1e6L);
overlaps <- c(0.99,0.5,0.01);
system.time({ res <- testGrid(makeArgSpecs.singleIntegerKey.optionalOneToOne,sizes,overlaps); });
##     user   system  elapsed
## 22024.65 12308.63 34493.19

Я написал некоторый код для создания графиков log-log приведенных выше результатов. Я создал отдельный график для каждого процента перекрытия. Это немного загромождено, но мне нравится, когда все типы решений и типы соединений представлены на одном графике.

Я использовал сплайн-интерполяцию, чтобы показать плавную кривую для каждой комбинации решения / типа соединения, нарисованную отдельными символами pch. Тип соединения фиксируется символом pch, используя точку для внутреннего, левого и правого угловых скобок для левого и правого и ромб для полного. Тип решения определяется цветом, как показано в легенде.

plotRes <- function(res,titleFunc,useFloor=F) {
    solTypes <- setdiff(names(res),c('size','overlap','joinType','unit')); ## derive from res
    normMult <- c(microseconds=1e-3,milliseconds=1); ## normalize to milliseconds
    joinTypes <- getJoinTypes();
    cols <- c(merge='purple',data.table.unkeyed='blue',data.table.keyed='#00DDDD',sqldf.unindexed='brown',sqldf.indexed='orange',plyr='red',dplyr='#00BB00',in.place='magenta');
    pchs <- list(inner=20L,left='<',right='>',full=23L);
    cexs <- c(inner=0.7,left=1,right=1,full=0.7);
    NP <- 60L;
    ord <- order(decreasing=T,colMeans(res[res$size==max(res$size),solTypes],na.rm=T));
    ymajors <- data.frame(y=c(1,1e3),label=c('1ms','1s'),stringsAsFactors=F);
    for (overlap in unique(res$overlap)) {
        x1 <- res[res$overlap==overlap,];
        x1[solTypes] <- x1[solTypes]*normMult[x1$unit]; x1$unit <- NULL;
        xlim <- c(1e1,max(x1$size));
        xticks <- 10^seq(log10(xlim[1L]),log10(xlim[2L]));
        ylim <- c(1e-1,10^((if (useFloor) floor else ceiling)(log10(max(x1[solTypes],na.rm=T))))); ## use floor() to zoom in a little more, only sqldf.unindexed will break above, but xpd=NA will keep it visible
        yticks <- 10^seq(log10(ylim[1L]),log10(ylim[2L]));
        yticks.minor <- rep(yticks[-length(yticks)],each=9L)*1:9;
        plot(NA,xlim=xlim,ylim=ylim,xaxs='i',yaxs='i',axes=F,xlab='size (rows)',ylab='time (ms)',log='xy');
        abline(v=xticks,col='lightgrey');
        abline(h=yticks.minor,col='lightgrey',lty=3L);
        abline(h=yticks,col='lightgrey');
        axis(1L,xticks,parse(text=sprintf('10^%d',as.integer(log10(xticks)))));
        axis(2L,yticks,parse(text=sprintf('10^%d',as.integer(log10(yticks)))),las=1L);
        axis(4L,ymajors$y,ymajors$label,las=1L,tick=F,cex.axis=0.7,hadj=0.5);
        for (joinType in rev(joinTypes)) { ## reverse to draw full first, since it's larger and would be more obtrusive if drawn last
            x2 <- x1[x1$joinType==joinType,];
            for (solType in solTypes) {
                if (any(!is.na(x2[[solType]]))) {
                    xy <- spline(x2$size,x2[[solType]],xout=10^(seq(log10(x2$size[1L]),log10(x2$size[nrow(x2)]),len=NP)));
                    points(xy$x,xy$y,pch=pchs[[joinType]],col=cols[solType],cex=cexs[joinType],xpd=NA);
                }; ## end if
            }; ## end for
        }; ## end for
        ## custom legend
        ## due to logarithmic skew, must do all distance calcs in inches, and convert to user coords afterward
        ## the bottom-left corner of the legend will be defined in normalized figure coords, although we can convert to inches immediately
        leg.cex <- 0.7;
        leg.x.in <- grconvertX(0.275,'nfc','in');
        leg.y.in <- grconvertY(0.6,'nfc','in');
        leg.x.user <- grconvertX(leg.x.in,'in');
        leg.y.user <- grconvertY(leg.y.in,'in');
        leg.outpad.w.in <- 0.1;
        leg.outpad.h.in <- 0.1;
        leg.midpad.w.in <- 0.1;
        leg.midpad.h.in <- 0.1;
        leg.sol.w.in <- max(strwidth(solTypes,'in',leg.cex));
        leg.sol.h.in <- max(strheight(solTypes,'in',leg.cex))*1.5; ## multiplication factor for greater line height
        leg.join.w.in <- max(strheight(joinTypes,'in',leg.cex))*1.5; ## ditto
        leg.join.h.in <- max(strwidth(joinTypes,'in',leg.cex));
        leg.main.w.in <- leg.join.w.in*length(joinTypes);
        leg.main.h.in <- leg.sol.h.in*length(solTypes);
        leg.x2.user <- grconvertX(leg.x.in+leg.outpad.w.in*2+leg.main.w.in+leg.midpad.w.in+leg.sol.w.in,'in');
        leg.y2.user <- grconvertY(leg.y.in+leg.outpad.h.in*2+leg.main.h.in+leg.midpad.h.in+leg.join.h.in,'in');
        leg.cols.x.user <- grconvertX(leg.x.in+leg.outpad.w.in+leg.join.w.in*(0.5+seq(0L,length(joinTypes)-1L)),'in');
        leg.lines.y.user <- grconvertY(leg.y.in+leg.outpad.h.in+leg.main.h.in-leg.sol.h.in*(0.5+seq(0L,length(solTypes)-1L)),'in');
        leg.sol.x.user <- grconvertX(leg.x.in+leg.outpad.w.in+leg.main.w.in+leg.midpad.w.in,'in');
        leg.join.y.user <- grconvertY(leg.y.in+leg.outpad.h.in+leg.main.h.in+leg.midpad.h.in,'in');
        rect(leg.x.user,leg.y.user,leg.x2.user,leg.y2.user,col='white');
        text(leg.sol.x.user,leg.lines.y.user,solTypes[ord],cex=leg.cex,pos=4L,offset=0);
        text(leg.cols.x.user,leg.join.y.user,joinTypes,cex=leg.cex,pos=4L,offset=0,srt=90); ## srt rotation applies *after* pos/offset positioning
        for (i in seq_along(joinTypes)) {
            joinType <- joinTypes[i];
            points(rep(leg.cols.x.user[i],length(solTypes)),ifelse(colSums(!is.na(x1[x1$joinType==joinType,solTypes[ord]]))==0L,NA,leg.lines.y.user),pch=pchs[[joinType]],col=cols[solTypes[ord]]);
        }; ## end for
        title(titleFunc(overlap));
        readline(sprintf('overlap %.02f',overlap));
    }; ## end for
}; ## end plotRes()

titleFunc <- function(overlap) sprintf('R merge solutions: single-column integer key, 0..1:0..1 cardinality, %d%% overlap',as.integer(overlap*100));
plotRes(res,titleFunc,T);

Р-слияние-тест-один столбец-целое число-ключ-факультативно-один-к-одному-99

Р-слияние-тест-один столбец-целое число-ключ-факультативно-один-к-одному-50

Р-слияние-тест-один столбец-целое число-ключ-факультативно-один-к-одному-1


Вот второй крупномасштабный тест, который более тяжелый, с точки зрения количества и типов ключевых столбцов, а также количества элементов. Для этого теста я использую три ключевых столбца: один символ, одно целое и один логический, без ограничений по количеству элементов (то есть 0..*:0..*). (В общем случае не рекомендуется определять ключевые столбцы с двойными или сложными значениями из-за сложностей сравнения с плавающей точкой, и в основном никто никогда не использует необработанный тип, тем более для ключевых столбцов, поэтому я не включил эти типы в ключ Кроме того, ради информации, я изначально пытался использовать четыре ключевых столбца, включая ключевой столбец POSIXct, но тип POSIXct sqldf.indexedпо какой-то причине не подходил для решения, возможно, из-за аномалий сравнения с плавающей запятой, поэтому я убрал это.)

makeArgSpecs.assortedKey.optionalManyToMany <- function(size,overlap,uniquePct=75) {

    ## number of unique keys in df1
    u1Size <- as.integer(size*uniquePct/100);

    ## (roughly) divide u1Size into bases, so we can use expand.grid() to produce the required number of unique key values with repetitions within individual key columns
    ## use ceiling() to ensure we cover u1Size; will truncate afterward
    u1SizePerKeyColumn <- as.integer(ceiling(u1Size^(1/3)));

    ## generate the unique key values for df1
    keys1 <- expand.grid(stringsAsFactors=F,
        idCharacter=replicate(u1SizePerKeyColumn,paste(collapse='',sample(letters,sample(4:12,1L),T))),
        idInteger=sample(u1SizePerKeyColumn),
        idLogical=sample(c(F,T),u1SizePerKeyColumn,T)
        ##idPOSIXct=as.POSIXct('2016-01-01 00:00:00','UTC')+sample(u1SizePerKeyColumn)
    )[seq_len(u1Size),];

    ## rbind some repetitions of the unique keys; this will prepare one side of the many-to-many relationship
    ## also scramble the order afterward
    keys1 <- rbind(keys1,keys1[sample(nrow(keys1),size-u1Size,T),])[sample(size),];

    ## common and unilateral key counts
    com <- as.integer(size*overlap);
    uni <- size-com;

    ## generate some unilateral keys for df2 by synthesizing outside of the idInteger range of df1
    keys2 <- data.frame(stringsAsFactors=F,
        idCharacter=replicate(uni,paste(collapse='',sample(letters,sample(4:12,1L),T))),
        idInteger=u1SizePerKeyColumn+sample(uni),
        idLogical=sample(c(F,T),uni,T)
        ##idPOSIXct=as.POSIXct('2016-01-01 00:00:00','UTC')+u1SizePerKeyColumn+sample(uni)
    );

    ## rbind random keys from df1; this will complete the many-to-many relationship
    ## also scramble the order afterward
    keys2 <- rbind(keys2,keys1[sample(nrow(keys1),com,T),])[sample(size),];

    ##keyNames <- c('idCharacter','idInteger','idLogical','idPOSIXct');
    keyNames <- c('idCharacter','idInteger','idLogical');
    ## note: was going to use raw and complex type for two of the non-key columns, but data.table doesn't seem to fully support them
    argSpecs <- list(
        default=list(copySpec=1:2,args=list(
            df1 <- cbind(stringsAsFactors=F,keys1,y1=sample(c(F,T),size,T),y2=sample(size),y3=rnorm(size),y4=replicate(size,paste(collapse='',sample(letters,sample(4:12,1L),T)))),
            df2 <- cbind(stringsAsFactors=F,keys2,y5=sample(c(F,T),size,T),y6=sample(size),y7=rnorm(size),y8=replicate(size,paste(collapse='',sample(letters,sample(4:12,1L),T)))),
            keyNames
        )),
        data.table.unkeyed=list(copySpec=1:2,args=list(
            as.data.table(df1),
            as.data.table(df2),
            keyNames
        )),
        data.table.keyed=list(copySpec=1:2,args=list(
            setkeyv(as.data.table(df1),keyNames),
            setkeyv(as.data.table(df2),keyNames)
        ))
    );
    ## prepare sqldf
    initSqldf();
    sqldf(paste0('create index df1_key on df1(',paste(collapse=',',keyNames),');')); ## upload and create an sqlite index on df1
    sqldf(paste0('create index df2_key on df2(',paste(collapse=',',keyNames),');')); ## upload and create an sqlite index on df2

    argSpecs;

}; ## end makeArgSpecs.assortedKey.optionalManyToMany()

sizes <- c(1e1L,1e3L,1e5L); ## 1e5L instead of 1e6L to respect more heavy-duty inputs
overlaps <- c(0.99,0.5,0.01);
solTypes <- setdiff(getSolTypes(),'in.place');
system.time({ res <- testGrid(makeArgSpecs.assortedKey.optionalManyToMany,sizes,overlaps,solTypes); });
##     user   system  elapsed
## 38895.50   784.19 39745.53

Полученные графики, используя тот же код построения, приведенный выше:

titleFunc <- function(overlap) sprintf('R merge solutions: character/integer/logical key, 0..*:0..* cardinality, %d%% overlap',as.integer(overlap*100));
plotRes(res,titleFunc,F);

R-слияние-тест-ассорти ключ факультативные-многие-ко-многим-99

R-слияние-тест-ассорти ключ факультативные-многие-ко-многим-50

R-слияние-тест-ассорти ключ факультативные-многие-ко-многим-1

bgoldst
источник
очень хороший анализ, но жаль, что вы установили масштаб от 10 ^ 1 до 10 ^ 6, это настолько крошечные наборы, что разница в скорости практически не имеет значения. 10 ^ 6 до 10 ^ 8 было бы интересно посмотреть!
Джангорецкий
1
Я также заметил, что вы включили время приведения класса в бенчмарк, что делает его недействительным для операции соединения.
Джангорецки
8
  1. Используя mergeфункцию, мы можем выбрать переменную левой или правой таблицы, точно так же, как мы все знакомы с оператором select в SQL (EX: выберите a. * ... или Select b. * Из .....)
  2. Мы должны добавить дополнительный код, который будет подмножеством из вновь объединенной таблицы.

    • SQL: - select a.* from df1 a inner join df2 b on a.CustomerId=b.CustomerId

    • Р :- merge(df1, df2, by.x = "CustomerId", by.y = "CustomerId")[,names(df1)]

Так же

  • SQL: - select b.* from df1 a inner join df2 b on a.CustomerId=b.CustomerId

  • Р :- merge(df1, df2, by.x = "CustomerId", by.y = "CustomerId")[,names(df2)]

sanjeeb
источник
7

Для внутреннего объединения всех столбцов вы также можете использовать fintersectиз data.table -package или intersectиз dplyr -package в качестве альтернативы mergeбез указания by-columns. это даст строки, которые равны между двумя кадрами данных:

merge(df1, df2)
#   V1 V2
# 1  B  2
# 2  C  3
dplyr::intersect(df1, df2)
#   V1 V2
# 1  B  2
# 2  C  3
data.table::fintersect(setDT(df1), setDT(df2))
#    V1 V2
# 1:  B  2
# 2:  C  3

Пример данных:

df1 <- data.frame(V1 = LETTERS[1:4], V2 = 1:4)
df2 <- data.frame(V1 = LETTERS[2:3], V2 = 2:3)
Яап
источник
5

Обновление присоединиться. Еще одно важное соединение в стиле SQL - это « соединение обновления », при котором столбцы в одной таблице обновляются (или создаются) с использованием другой таблицы.

Изменение примеров таблиц OP ...

sales = data.frame(
  CustomerId = c(1, 1, 1, 3, 4, 6), 
  Year = 2000:2005,
  Product = c(rep("Toaster", 3), rep("Radio", 3))
)
cust = data.frame(
  CustomerId = c(1, 1, 4, 6), 
  Year = c(2001L, 2002L, 2002L, 2002L),
  State = state.name[1:4]
)

sales
# CustomerId Year Product
#          1 2000 Toaster
#          1 2001 Toaster
#          1 2002 Toaster
#          3 2003   Radio
#          4 2004   Radio
#          6 2005   Radio

cust
# CustomerId Year    State
#          1 2001  Alabama
#          1 2002   Alaska
#          4 2002  Arizona
#          6 2002 Arkansas

Предположим, мы хотим добавить состояние клиента из custтаблицы покупок sales, игнорируя столбец года. С помощью базы R мы можем определить совпадающие строки, а затем скопировать значения в:

sales$State <- cust$State[ match(sales$CustomerId, cust$CustomerId) ]

# CustomerId Year Product    State
#          1 2000 Toaster  Alabama
#          1 2001 Toaster  Alabama
#          1 2002 Toaster  Alabama
#          3 2003   Radio     <NA>
#          4 2004   Radio  Arizona
#          6 2005   Radio Arkansas

# cleanup for the next example
sales$State <- NULL

Как видно здесь, matchвыбирается первая подходящая строка из таблицы клиентов.


Обновите объединение с несколькими столбцами. Приведенный выше подход хорошо работает, когда мы объединяем только один столбец и удовлетворены первым соответствием. Предположим, мы хотим, чтобы год измерения в таблице клиентов соответствовал году продажи.

Как отмечает ответ @ bgoldst, в matchс interactionможет быть одним из вариантов для этого случая. Проще говоря, можно использовать data.table:

library(data.table)
setDT(sales); setDT(cust)

sales[, State := cust[sales, on=.(CustomerId, Year), x.State]]

#    CustomerId Year Product   State
# 1:          1 2000 Toaster    <NA>
# 2:          1 2001 Toaster Alabama
# 3:          1 2002 Toaster  Alaska
# 4:          3 2003   Radio    <NA>
# 5:          4 2004   Radio    <NA>
# 6:          6 2005   Radio    <NA>

# cleanup for next example
sales[, State := NULL]

Скользящее обновление присоединяется. Кроме того, мы можем выбрать последнее состояние, в котором был найден клиент:

sales[, State := cust[sales, on=.(CustomerId, Year), roll=TRUE, x.State]]

#    CustomerId Year Product    State
# 1:          1 2000 Toaster     <NA>
# 2:          1 2001 Toaster  Alabama
# 3:          1 2002 Toaster   Alaska
# 4:          3 2003   Radio     <NA>
# 5:          4 2004   Radio  Arizona
# 6:          6 2005   Radio Arkansas

Три приведенных выше примера сосредоточены на создании / добавлении нового столбца. Смотрите соответствующий R FAQ для примера обновления / изменения существующего столбца.

Фрэнк
источник