Como juntar (mesclar) quadros de dados (interno, externo, esquerdo, direito)


1233

Dados dois quadros de dados:

df1 = data.frame(CustomerId = c(1:6), Product = c(rep("Toaster", 3), rep("Radio", 3)))
df2 = data.frame(CustomerId = c(2, 4, 6), State = c(rep("Alabama", 2), rep("Ohio", 1)))

df1
#  CustomerId Product
#           1 Toaster
#           2 Toaster
#           3 Toaster
#           4   Radio
#           5   Radio
#           6   Radio

df2
#  CustomerId   State
#           2 Alabama
#           4 Alabama
#           6    Ohio

Como faço para ingressar no estilo de banco de dados, ou seja, estilo sql ? Ou seja, como obtenho:

  • Uma junção interna de df1e df2:
    Retorna apenas as linhas nas quais a tabela esquerda possui chaves correspondentes na tabela direita.
  • Uma junção externa de df1e df2:
    Retorna todas as linhas das duas tabelas, junta os registros da esquerda que possuem chaves correspondentes na tabela da direita.
  • Uma junção externa esquerda (ou simplesmente junção esquerda) de df1e df2
    Retorna todas as linhas da tabela esquerda e todas as linhas com chaves correspondentes da tabela direita.
  • Uma junção externa direita de df1e df2
    Retorne todas as linhas da tabela direita e todas as linhas com chaves correspondentes da tabela esquerda.

Crédito extra:

Como posso fazer uma instrução de seleção de estilo SQL?


4
stat545-ubc.github.io/bit001_dplyr-cheatsheet.html ← minha resposta favorita para esta pergunta
isomorphismes

A transformação de dados com dplyr folha de fraude criado e mantido por rstudio também tem agradáveis infográficos sobre como junta de trabalho em dplyr rstudio.com/resources/cheatsheets
Arthur Yip

2
Se você veio aqui em vez de querer saber sobre a fusão de quadros de dados do panda , esse recurso pode ser encontrado aqui .
cs95

Respostas:


1350

Usando a mergefunção e seus parâmetros opcionais:

Junção interna: merge(df1, df2) funcionará para esses exemplos porque R une automaticamente os quadros por nomes de variáveis ​​comuns, mas você provavelmente desejaria especificarmerge(df1, df2, by = "CustomerId")para garantir que estava correspondendo apenas aos campos desejados. Você também pode usar osparâmetrosby.xeby.yse as variáveis ​​correspondentes tiverem nomes diferentes nos diferentes quadros de dados.

Junção externa: merge(x = df1, y = df2, by = "CustomerId", all = TRUE)

Exterior esquerdo: merge(x = df1, y = df2, by = "CustomerId", all.x = TRUE)

Exterior direito: merge(x = df1, y = df2, by = "CustomerId", all.y = TRUE)

Junção cruzada: merge(x = df1, y = df2, by = NULL)

Assim como na junção interna, você provavelmente desejaria passar explicitamente "CustomerId" para R como a variável correspondente. Eu acho que quase sempre é melhor declarar explicitamente os identificadores nos quais você deseja mesclar; é mais seguro se os dados de entrada. quadros forem alterados inesperadamente e mais fáceis de serem lidos posteriormente.

Você pode mesclar em várias colunas, dando byum vetor, por exemplo by = c("CustomerId", "OrderId"),.

Se os nomes das colunas a serem mesclados não forem os mesmos, é possível especificar, por exemplo, by.x = "CustomerId_in_df1", by.y = "CustomerId_in_df2"onde CustomerId_in_df1é o nome da coluna no primeiro quadro de dados e CustomerId_in_df2o nome da coluna no segundo quadro de dados. (Esses também podem ser vetores se você precisar mesclar em várias colunas.)


2
@MattParker Eu tenho usado o pacote sqldf para uma série de consultas complexas em relação aos quadros de dados, realmente precisava dele para fazer uma junção auto-cruzada (ou seja, a junção cruzada data.frame) ... Gostaria de saber como ele se compara da perspectiva de desempenho ... . ???
Nicholas Hamilton

9
@ADP Eu nunca realmente usei o sqldf, então não tenho certeza sobre velocidade. Se o desempenho é um problema importante para você, você também deve examinar o data.tablepacote - esse é um conjunto totalmente novo de sintaxe de junção, mas é radicalmente mais rápido do que qualquer coisa que estamos falando aqui.
Matt Parker

5
Com mais clareza e explicação ..... mkmanu.wordpress.com/2016/04/08/...
Manoj Kumar

42
Uma adição menor, que foi útil para mim - Quando você deseja mesclar usando mais de uma coluna:merge(x=df1,y=df2, by.x=c("x_col1","x_col2"), by.y=c("y_col1","y_col2"))
Dileep Kumar Patchigolla

8
Isso funciona data.tableagora, com a mesma função apenas mais rapidamente.
marbel

222

Eu recomendaria verificar o pacote sqldf do Gabor Grothendieck , que permite expressar essas operações no SQL.

library(sqldf)

## inner join
df3 <- sqldf("SELECT CustomerId, Product, State 
              FROM df1
              JOIN df2 USING(CustomerID)")

## left join (substitute 'right' for right join)
df4 <- sqldf("SELECT CustomerId, Product, State 
              FROM df1
              LEFT JOIN df2 USING(CustomerID)")

Acho que a sintaxe SQL é mais simples e mais natural do que seu equivalente em R (mas isso pode refletir apenas meu viés de RDBMS).

Consulte o sqldf GitHub do Gabor para obter mais informações sobre junções.


198

Existe a abordagem data.table para uma junção interna, que consome muito tempo e memória (e necessária para alguns data.frames maiores):

library(data.table)

dt1 <- data.table(df1, key = "CustomerId") 
dt2 <- data.table(df2, key = "CustomerId")

joined.dt1.dt.2 <- dt1[dt2]

mergetambém funciona em data.tables (como é genérico e chama merge.data.table)

merge(dt1, dt2)

data.table documentado no stackoverflow:
Como executar uma operação de mesclagem data.table
Traduzindo junções SQL em chaves estrangeiras para R sintaxe data.table
Alternativas eficientes para mesclar para dados maiores.frames R
Como fazer uma junção externa esquerda básica com data.table em R?

Outra opção é a joinfunção encontrada no pacote plyr

library(plyr)

join(df1, df2,
     type = "inner")

#   CustomerId Product   State
# 1          2 Toaster Alabama
# 2          4   Radio Alabama
# 3          6   Radio    Ohio

Opções para type: inner, left, right, full.

De ?join: ao contrário merge, [ join] preserva a ordem de x, independentemente do tipo de junção usado.


8
+1 por mencionar plyr::join. Microbenchmarking indica que ele executa cerca de 3 vezes mais rápido que merge.
Beasterfield

20
No entanto, data.tableé muito mais rápido que ambos. Também há um ótimo suporte no SO, não vejo muitos redatores de pacotes respondendo perguntas aqui com a mesma frequência que o data.tablegravador ou os colaboradores.
marbel

1
Qual é a data.tablesintaxe para mesclar uma lista de quadros de dados ?
Aleksandr Blekh

5
Observe: dt1 [dt2] é uma junção externa direita (não uma junção interna "pura"), de modo que TODAS as linhas do dt2 farão parte do resultado, mesmo que não haja nenhuma linha correspondente no dt1. Impacto: seu resultado tem linhas potencialmente indesejadas se você tiver valores-chave em dt2 que não correspondem aos valores-chave de dt1.
R: Yoda

8
@RYoda você pode apenas especificar nomatch = 0Lnesse caso.
David Arenburg

181

Você também pode fazer junções usando o incrível pacote dplyr de Hadley Wickham .

library(dplyr)

#make sure that CustomerId cols are both type numeric
#they ARE not using the provided code in question and dplyr will complain
df1$CustomerId <- as.numeric(df1$CustomerId)
df2$CustomerId <- as.numeric(df2$CustomerId)

Mutando junções: adicione colunas ao df1 usando correspondências no df2

#inner
inner_join(df1, df2)

#left outer
left_join(df1, df2)

#right outer
right_join(df1, df2)

#alternate right outer
left_join(df2, df1)

#full join
full_join(df1, df2)

Filtrando junções: filtre as linhas no df1, não modifique as colunas

semi_join(df1, df2) #keep only observations in df1 that match in df2.
anti_join(df1, df2) #drops all observations in df1 that match in df2.

16
Por que você precisa converter CustomerIdpara numérico? Não vejo nenhuma menção na documentação (para ambos plyre dplyr) sobre esse tipo de restrição. Seu código funcionaria incorretamente se a coluna de mesclagem fosse do charactertipo (especialmente interessada plyr)? Estou esquecendo de algo?
Aleksandr Blekh

Pode-se usar semi_join (df1, df2, df3, df4) para manter apenas observações no df1 que correspondam ao restante das colunas?
Ghose Bishwajit

@GhoseBishwajit Supondo que você resto média dos dataframes em vez de colunas, você poderia usar rbind em df2, DF3 e df4 se eles têm mesma estrutura por exemplo semi_join (DF1, rbind (DF2, DF3, df4))
abhy3

Sim, eu quis dizer dataframe. Mas eles não são da mesma estrutura que alguns estão faltando em determinadas linhas. Para quatro quadros de dados, tenho dados sobre quatro indicadores diferentes (PIB, PNB GINI, MMR) para diferentes números de países. Quero ingressar nos quadros de dados de uma maneira que mantenha apenas os países presentes nos quatro indicadores.
Ghose Bishwajit

86

Existem alguns bons exemplos de como fazer isso no R Wiki . Vou roubar alguns aqui:

Método de mesclagem

Como suas chaves são nomeadas da mesma forma, a maneira mais curta de fazer uma junção interna é mesclar ():

merge(df1,df2)

uma junção interna completa (todos os registros de ambas as tabelas) pode ser criada com a palavra-chave "all":

merge(df1,df2, all=TRUE)

uma junção externa esquerda de df1 e df2:

merge(df1,df2, all.x=TRUE)

uma junção externa direita de df1 e df2:

merge(df1,df2, all.y=TRUE)

você pode virar, bater e esfregar para baixo para obter as outras duas junções externas que você perguntou :)

Método Subscrito

Uma junção externa esquerda com df1 à esquerda usando um método subscrito seria:

df1[,"State"]<-df2[df1[ ,"Product"], "State"]

A outra combinação de junções externas pode ser criada através da junção do exemplo do subscrito da junção externa esquerda. (sim, eu sei que é o equivalente a dizer "vou deixar isso como um exercício para o leitor ...")


4
O link "R Wiki" está quebrado.
zx8754 06/02/19

79

Novo em 2014:

Especialmente se você também estiver interessado em manipulação de dados em geral (incluindo classificação, filtragem, subconjunto, resumo etc.), você definitivamente deve dar uma olhada dplyr, que vem com uma variedade de funções, todas projetadas para facilitar seu trabalho especificamente com quadros de dados e alguns outros tipos de banco de dados. Ele ainda oferece uma interface SQL bastante elaborada e até uma função para converter (a maioria) código SQL diretamente em R.

As quatro funções relacionadas à junção no pacote dplyr são (entre aspas):

  • inner_join(x, y, by = NULL, copy = FALSE, ...): retorna todas as linhas de x onde existem valores correspondentes em y e todas as colunas de x e y
  • left_join(x, y, by = NULL, copy = FALSE, ...): retorna todas as linhas de x e todas as colunas de x e y
  • semi_join(x, y, by = NULL, copy = FALSE, ...): retorna todas as linhas de x onde existem valores correspondentes em y, mantendo apenas as colunas de x.
  • anti_join(x, y, by = NULL, copy = FALSE, ...): retorna todas as linhas de x onde não há valores correspondentes em y, mantendo apenas as colunas de x

Está tudo aqui em grandes detalhes.

A seleção de colunas pode ser feita por select(df,"column"). Se isso não for suficiente para você, existe a sql()função na qual você pode inserir o código SQL como está, e ele fará a operação que você especificou exatamente como você estava escrevendo em R o tempo todo (para obter mais informações, consulte à vinheta dplyr / database ). Por exemplo, se aplicado corretamente, sql("SELECT * FROM hflights")selecionará todas as colunas da tabela dplyr "hflights" (um "tbl").


Definitivamente a melhor solução, dada a importância que o pacote dplyr ganhou nos últimos dois anos.
Marco Fumagalli

72

Atualize os métodos data.table para ingressar em conjuntos de dados. Veja abaixo exemplos para cada tipo de associação. Existem dois métodos, um [.data.tableao passar a segunda data.table como o primeiro argumento para subconjunto, outra maneira é usar a mergefunção que despacha para o método data.table mais rápido.

df1 = data.frame(CustomerId = c(1:6), Product = c(rep("Toaster", 3), rep("Radio", 3)))
df2 = data.frame(CustomerId = c(2L, 4L, 7L), State = c(rep("Alabama", 2), rep("Ohio", 1))) # one value changed to show full outer join

library(data.table)

dt1 = as.data.table(df1)
dt2 = as.data.table(df2)
setkey(dt1, CustomerId)
setkey(dt2, CustomerId)
# right outer join keyed data.tables
dt1[dt2]

setkey(dt1, NULL)
setkey(dt2, NULL)
# right outer join unkeyed data.tables - use `on` argument
dt1[dt2, on = "CustomerId"]

# left outer join - swap dt1 with dt2
dt2[dt1, on = "CustomerId"]

# inner join - use `nomatch` argument
dt1[dt2, nomatch=NULL, on = "CustomerId"]

# anti join - use `!` operator
dt1[!dt2, on = "CustomerId"]

# inner join - using merge method
merge(dt1, dt2, by = "CustomerId")

# full outer join
merge(dt1, dt2, by = "CustomerId", all = TRUE)

# see ?merge.data.table arguments for other cases

Testes abaixo do benchmark base R, sqldf, dplyr e data.table.
O benchmark testa conjuntos de dados não codificados / não indexados. O benchmark é realizado em conjuntos de dados de 50M-1 linhas, existem valores comuns de 50M-2 na coluna de junção para que cada cenário (interno, esquerdo, direito, cheio) possa ser testado e a junção ainda não seja trivial para executar. É o tipo de junção que enfatiza bem os algoritmos de junção. Horários são de sqldf:0.4.11, dplyr:0.7.8, data.table:1.12.0.

# inner
Unit: seconds
   expr       min        lq      mean    median        uq       max neval
   base 111.66266 111.66266 111.66266 111.66266 111.66266 111.66266     1
  sqldf 624.88388 624.88388 624.88388 624.88388 624.88388 624.88388     1
  dplyr  51.91233  51.91233  51.91233  51.91233  51.91233  51.91233     1
     DT  10.40552  10.40552  10.40552  10.40552  10.40552  10.40552     1
# left
Unit: seconds
   expr        min         lq       mean     median         uq        max 
   base 142.782030 142.782030 142.782030 142.782030 142.782030 142.782030     
  sqldf 613.917109 613.917109 613.917109 613.917109 613.917109 613.917109     
  dplyr  49.711912  49.711912  49.711912  49.711912  49.711912  49.711912     
     DT   9.674348   9.674348   9.674348   9.674348   9.674348   9.674348       
# right
Unit: seconds
   expr        min         lq       mean     median         uq        max
   base 122.366301 122.366301 122.366301 122.366301 122.366301 122.366301     
  sqldf 611.119157 611.119157 611.119157 611.119157 611.119157 611.119157     
  dplyr  50.384841  50.384841  50.384841  50.384841  50.384841  50.384841     
     DT   9.899145   9.899145   9.899145   9.899145   9.899145   9.899145     
# full
Unit: seconds
  expr       min        lq      mean    median        uq       max neval
  base 141.79464 141.79464 141.79464 141.79464 141.79464 141.79464     1
 dplyr  94.66436  94.66436  94.66436  94.66436  94.66436  94.66436     1
    DT  21.62573  21.62573  21.62573  21.62573  21.62573  21.62573     1

Esteja ciente de que existem outros tipos de junções que você pode executar usando data.table:
- atualização na junção - se você deseja pesquisar valores de outra tabela para sua tabela principal
- agregado na junção - se você deseja agregar na chave da qual você está ingressando, não possui para materializar todos se unem resultados
- sobreposição juntar - se você deseja mesclar por faixas
- rolando juntar - se você quiser mesclagem para ser capaz de corresponder aos valores da precedente / seguinte linhas rolando para a frente ou para trás
- não equi juntar - se a sua a condição de junção não é igual

Código a reproduzir:

library(microbenchmark)
library(sqldf)
library(dplyr)
library(data.table)
sapply(c("sqldf","dplyr","data.table"), packageVersion, simplify=FALSE)

n = 5e7
set.seed(108)
df1 = data.frame(x=sample(n,n-1L), y1=rnorm(n-1L))
df2 = data.frame(x=sample(n,n-1L), y2=rnorm(n-1L))
dt1 = as.data.table(df1)
dt2 = as.data.table(df2)

mb = list()
# inner join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x"),
               sqldf = sqldf("SELECT * FROM df1 INNER JOIN df2 ON df1.x = df2.x"),
               dplyr = inner_join(df1, df2, by = "x"),
               DT = dt1[dt2, nomatch=NULL, on = "x"]) -> mb$inner

# left outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all.x = TRUE),
               sqldf = sqldf("SELECT * FROM df1 LEFT OUTER JOIN df2 ON df1.x = df2.x"),
               dplyr = left_join(df1, df2, by = c("x"="x")),
               DT = dt2[dt1, on = "x"]) -> mb$left

# right outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all.y = TRUE),
               sqldf = sqldf("SELECT * FROM df2 LEFT OUTER JOIN df1 ON df2.x = df1.x"),
               dplyr = right_join(df1, df2, by = "x"),
               DT = dt1[dt2, on = "x"]) -> mb$right

# full outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all = TRUE),
               dplyr = full_join(df1, df2, by = "x"),
               DT = merge(dt1, dt2, by = "x", all = TRUE)) -> mb$full

lapply(mb, print) -> nul

Vale a pena adicionar um exemplo mostrando como usar nomes de colunas diferentes on = também?
SymbolixAU

1
@Symbolix podemos esperar para 1.9.8 lançamento como ele irá adicionar não-equi junta operadores onarg
jangorecki

Outro pensamento; vale a pena adicionar uma observação de que com merge.data.tableo sort = TRUEargumento padrão existe , que adiciona uma chave durante a mesclagem e a deixa lá no resultado. Isso é algo a ser observado, especialmente se você estiver tentando evitar definir teclas.
precisa saber é o seguinte

1
Estou ninguém surpreso mencionou que a maioria das pessoas não estão funcionando se houver dups ...
statquant

@statquant Você pode fazer uma união cartesiana data.table, o que você quer dizer? Por favor você pode ser mais especifico.
precisa

32

O dplyr desde o 0.4 implementou todas essas junções outer_join, inclusive , mas vale a pena notar que, nos primeiros lançamentos anteriores ao 0.4, não costumava oferecer outer_join, e como resultado, havia muito código de usuário de solução de hacky muito ruim flutuando por um bom tempo depois (você ainda pode encontrar esse código no SO, Kaggle responde, github desse período. Portanto, essa resposta ainda serve a um propósito útil.)

Destaques da versão relacionada à junção :

v0.5 (6/2016)

  • Manipulação para tipo POSIXct, fusos horários, duplicatas, diferentes níveis de fator. Melhores erros e avisos.
  • Novo argumento de sufixo para controlar qual sufixo os nomes de variáveis ​​duplicados recebem (# 1296)

v0.4.0 (1/2015)

  • Implementar junção direita e junção externa (# 96)
  • Associações mutantes, que adicionam novas variáveis ​​a uma tabela das linhas correspondentes em outra. Junções de filtragem, que filtram as observações de uma tabela com base na correspondência ou não de uma observação na outra tabela.

v0.3 (10/2014)

  • Agora é possível left_join por variáveis ​​diferentes em cada tabela: df1%>% left_join (df2, c ("var1" = "var2"))

v0.2 (5/2014)

  • * _join () não reordena mais os nomes das colunas (# 324)

v0.1.3 (4/2014)

Soluções alternativas pelos comentários de hadley nessa edição:

  • right_join (x, y) é o mesmo que left_join (y, x) em termos de linhas, apenas as colunas terão ordens diferentes. Solução fácil com select (new_column_order)
  • outer_join é basicamente união (left_join (x, y), right_join (x, y)) - ou seja, preserva todas as linhas nos dois quadros de dados.

1
@ Gregor: não, não deve ser excluído. É importante que os usuários do R saibam que os recursos de junção estavam ausentes por muitos anos, uma vez que a maior parte do código existente contém soluções alternativas ou implementações manuais ad-hoc, ou ad-hocery com vetores de índices ou, pior ainda, evita usar esses pacotes ou operações. Toda semana eu vejo essas perguntas no SO. Nós estaremos desfazendo a confusão por muitos anos.
smci 23/12/16

@ Gregor e outros que perguntaram: atualizado, resumindo as mudanças históricas e o que estava faltando há vários anos quando essa pergunta foi feita. Isso ilustra por que o código daquele período era majoritariamente hacky ou evitado usando junções dplyr e voltou a ser mesclado. Se você verificar as bases de código históricas no SO e no Kaggle, ainda poderá ver o atraso da adoção e o código de usuário seriamente confuso que isso resultou. Informe-me se você ainda não encontrou esta resposta.
smci 31/05

@ Gregor: Aqueles que adotaram o aplicativo em meados de 2014 não escolheram o melhor momento. (Eu pensei que havia lançamentos anteriores (0.0.x) em 2013, mas não, meu erro.) Independentemente, ainda havia muito código de porcaria em 2015, foi isso que me motivou a postar isso, eu estava tentando desmistificar o bruto que encontrei no Kaggle, github, SO.
smci 31/05

2
Sim, eu entendo, e acho que você faz um bom trabalho nisso. (Também fui um dos primeiros a adotar e, embora ainda goste da dplyrsintaxe, a mudança de lazyevalpara rlangback - end quebrou um monte de código para mim, o que me levou a aprender mais data.table, e agora uso principalmente data.table.)
Gregor Thomas

@ Gregor: interessante, você pode me indicar alguma pergunta (sua ou de outra pessoa) que cubra isso? Parece cada um dos nossos adoção de plyr/ dplyr/ data.table/ tidyverse depende enormemente em que ano nós começamos, e que (embrionárias) afirmam os pacotes estavam em volta, em seguida, ao contrário de agora ...
SMCI

25

Ao unir dois quadros de dados com ~ 1 milhão de linhas cada, um com 2 colunas e outro com ~ 20, surpreendentemente achei merge(..., all.x = TRUE, all.y = TRUE)mais rápido dplyr::full_join(). Isso é com o dplyr v0.4

A mesclagem leva ~ 17 segundos, full_join leva ~ 65 segundos.

Alguns alimentos para, no entanto, uma vez que geralmente eu dplyr para tarefas de manipulação.


24

No caso de uma junção esquerda com uma 0..*:0..1cardinalidade ou uma junção direita com uma 0..1:0..*cardinalidade, é possível atribuir no local as colunas unilaterais do marceneiro (a 0..1tabela) diretamente ao participante (a 0..*tabela) e, assim, evitar a criação de uma tabela de dados inteiramente nova. Isso requer a correspondência das colunas-chave do associado no marceneiro e a indexação + ordenando as linhas do marceneiro de acordo para a atribuição.

Se a chave for uma única coluna, podemos usar uma única chamada match()para fazer a correspondência. Este é o caso que abordarei nesta resposta.

Aqui está um exemplo baseado no OP, exceto que eu adicionei uma linha extra df2com um ID 7 para testar o caso de uma chave não correspondente no marceneiro. Isso efetivamente é df1deixado à esquerda df2:

df1 <- data.frame(CustomerId=1:6,Product=c(rep('Toaster',3L),rep('Radio',3L)));
df2 <- data.frame(CustomerId=c(2L,4L,6L,7L),State=c(rep('Alabama',2L),'Ohio','Texas'));
df1[names(df2)[-1L]] <- df2[match(df1[,1L],df2[,1L]),-1L];
df1;
##   CustomerId Product   State
## 1          1 Toaster    <NA>
## 2          2 Toaster Alabama
## 3          3 Toaster    <NA>
## 4          4   Radio Alabama
## 5          5   Radio    <NA>
## 6          6   Radio    Ohio

No código acima, eu codifiquei uma suposição de que a coluna chave é a primeira coluna de ambas as tabelas de entrada. Eu argumentaria que, em geral, essa não é uma suposição irracional, pois, se você tiver um data.frame com uma coluna-chave, seria estranho se ele não tivesse sido configurado como a primeira coluna do data.frame de desde o início. E você sempre pode reordenar as colunas para fazer isso. Uma conseqüência vantajosa dessa suposição é que o nome da coluna-chave não precisa ser codificado, embora eu suponha que esteja apenas substituindo uma suposição por outra. A concisão é outra vantagem da indexação inteira, além da velocidade. Nos benchmarks abaixo, alterarei a implementação para usar a indexação de nomes de string para corresponder às implementações concorrentes.

Eu acho que essa é uma solução particularmente apropriada se você tiver várias tabelas que deseja deixar ingressar em uma única tabela grande. Recriar repetidamente a tabela inteira para cada mesclagem seria desnecessário e ineficiente.

Por outro lado, se você precisar que o participante permaneça inalterado nessa operação por qualquer motivo, essa solução não poderá ser usada, pois modifica o participante diretamente. Embora, nesse caso, você possa simplesmente fazer uma cópia e executar as atribuições no local da cópia.


Como uma observação lateral, examinei brevemente possíveis soluções correspondentes para chaves de várias colunas. Infelizmente, as únicas soluções correspondentes que encontrei foram:

  • concatenações ineficientes. por exemplo match(interaction(df1$a,df1$b),interaction(df2$a,df2$b)), ou a mesma idéia com paste().
  • conjunções cartesianas ineficientes, por exemplo outer(df1$a,df2$a,`==`) & outer(df1$b,df2$b,`==`).
  • base R merge()e funções de mesclagem baseadas em pacotes equivalentes, que sempre alocam uma nova tabela para retornar o resultado mesclado e, portanto, não são adequadas para uma solução baseada em atribuição no local.

Por exemplo, consulte Combinando várias colunas em diferentes quadros de dados e obtendo outra coluna como resultado , combine duas colunas com duas outras colunas , Correspondendo a várias colunas , e o embuste dessa pergunta em que eu originalmente criei a solução local, Combine duas tramas de dados com um número diferente de fileiras em R .


avaliação comparativa

Decidi fazer meu próprio benchmarking para ver como a abordagem de atribuição no local se compara às outras soluções que foram oferecidas nesta pergunta.

Código de teste:

library(microbenchmark);
library(data.table);
library(sqldf);
library(plyr);
library(dplyr);

solSpecs <- list(
    merge=list(testFuncs=list(
        inner=function(df1,df2,key) merge(df1,df2,key),
        left =function(df1,df2,key) merge(df1,df2,key,all.x=T),
        right=function(df1,df2,key) merge(df1,df2,key,all.y=T),
        full =function(df1,df2,key) merge(df1,df2,key,all=T)
    )),
    data.table.unkeyed=list(argSpec='data.table.unkeyed',testFuncs=list(
        inner=function(dt1,dt2,key) dt1[dt2,on=key,nomatch=0L,allow.cartesian=T],
        left =function(dt1,dt2,key) dt2[dt1,on=key,allow.cartesian=T],
        right=function(dt1,dt2,key) dt1[dt2,on=key,allow.cartesian=T],
        full =function(dt1,dt2,key) merge(dt1,dt2,key,all=T,allow.cartesian=T) ## calls merge.data.table()
    )),
    data.table.keyed=list(argSpec='data.table.keyed',testFuncs=list(
        inner=function(dt1,dt2) dt1[dt2,nomatch=0L,allow.cartesian=T],
        left =function(dt1,dt2) dt2[dt1,allow.cartesian=T],
        right=function(dt1,dt2) dt1[dt2,allow.cartesian=T],
        full =function(dt1,dt2) merge(dt1,dt2,all=T,allow.cartesian=T) ## calls merge.data.table()
    )),
    sqldf.unindexed=list(testFuncs=list( ## note: must pass connection=NULL to avoid running against the live DB connection, which would result in collisions with the residual tables from the last query upload
        inner=function(df1,df2,key) sqldf(paste0('select * from df1 inner join df2 using(',paste(collapse=',',key),')'),connection=NULL),
        left =function(df1,df2,key) sqldf(paste0('select * from df1 left join df2 using(',paste(collapse=',',key),')'),connection=NULL),
        right=function(df1,df2,key) sqldf(paste0('select * from df2 left join df1 using(',paste(collapse=',',key),')'),connection=NULL) ## can't do right join proper, not yet supported; inverted left join is equivalent
        ##full =function(df1,df2,key) sqldf(paste0('select * from df1 full join df2 using(',paste(collapse=',',key),')'),connection=NULL) ## can't do full join proper, not yet supported; possible to hack it with a union of left joins, but too unreasonable to include in testing
    )),
    sqldf.indexed=list(testFuncs=list( ## important: requires an active DB connection with preindexed main.df1 and main.df2 ready to go; arguments are actually ignored
        inner=function(df1,df2,key) sqldf(paste0('select * from main.df1 inner join main.df2 using(',paste(collapse=',',key),')')),
        left =function(df1,df2,key) sqldf(paste0('select * from main.df1 left join main.df2 using(',paste(collapse=',',key),')')),
        right=function(df1,df2,key) sqldf(paste0('select * from main.df2 left join main.df1 using(',paste(collapse=',',key),')')) ## can't do right join proper, not yet supported; inverted left join is equivalent
        ##full =function(df1,df2,key) sqldf(paste0('select * from main.df1 full join main.df2 using(',paste(collapse=',',key),')')) ## can't do full join proper, not yet supported; possible to hack it with a union of left joins, but too unreasonable to include in testing
    )),
    plyr=list(testFuncs=list(
        inner=function(df1,df2,key) join(df1,df2,key,'inner'),
        left =function(df1,df2,key) join(df1,df2,key,'left'),
        right=function(df1,df2,key) join(df1,df2,key,'right'),
        full =function(df1,df2,key) join(df1,df2,key,'full')
    )),
    dplyr=list(testFuncs=list(
        inner=function(df1,df2,key) inner_join(df1,df2,key),
        left =function(df1,df2,key) left_join(df1,df2,key),
        right=function(df1,df2,key) right_join(df1,df2,key),
        full =function(df1,df2,key) full_join(df1,df2,key)
    )),
    in.place=list(testFuncs=list(
        left =function(df1,df2,key) { cns <- setdiff(names(df2),key); df1[cns] <- df2[match(df1[,key],df2[,key]),cns]; df1; },
        right=function(df1,df2,key) { cns <- setdiff(names(df1),key); df2[cns] <- df1[match(df2[,key],df1[,key]),cns]; df2; }
    ))
);

getSolTypes <- function() names(solSpecs);
getJoinTypes <- function() unique(unlist(lapply(solSpecs,function(x) names(x$testFuncs))));
getArgSpec <- function(argSpecs,key=NULL) if (is.null(key)) argSpecs$default else argSpecs[[key]];

initSqldf <- function() {
    sqldf(); ## creates sqlite connection on first run, cleans up and closes existing connection otherwise
    if (exists('sqldfInitFlag',envir=globalenv(),inherits=F) && sqldfInitFlag) { ## false only on first run
        sqldf(); ## creates a new connection
    } else {
        assign('sqldfInitFlag',T,envir=globalenv()); ## set to true for the one and only time
    }; ## end if
    invisible();
}; ## end initSqldf()

setUpBenchmarkCall <- function(argSpecs,joinType,solTypes=getSolTypes(),env=parent.frame()) {
    ## builds and returns a list of expressions suitable for passing to the list argument of microbenchmark(), and assigns variables to resolve symbol references in those expressions
    callExpressions <- list();
    nms <- character();
    for (solType in solTypes) {
        testFunc <- solSpecs[[solType]]$testFuncs[[joinType]];
        if (is.null(testFunc)) next; ## this join type is not defined for this solution type
        testFuncName <- paste0('tf.',solType);
        assign(testFuncName,testFunc,envir=env);
        argSpecKey <- solSpecs[[solType]]$argSpec;
        argSpec <- getArgSpec(argSpecs,argSpecKey);
        argList <- setNames(nm=names(argSpec$args),vector('list',length(argSpec$args)));
        for (i in seq_along(argSpec$args)) {
            argName <- paste0('tfa.',argSpecKey,i);
            assign(argName,argSpec$args[[i]],envir=env);
            argList[[i]] <- if (i%in%argSpec$copySpec) call('copy',as.symbol(argName)) else as.symbol(argName);
        }; ## end for
        callExpressions[[length(callExpressions)+1L]] <- do.call(call,c(list(testFuncName),argList),quote=T);
        nms[length(nms)+1L] <- solType;
    }; ## end for
    names(callExpressions) <- nms;
    callExpressions;
}; ## end setUpBenchmarkCall()

harmonize <- function(res) {
    res <- as.data.frame(res); ## coerce to data.frame
    for (ci in which(sapply(res,is.factor))) res[[ci]] <- as.character(res[[ci]]); ## coerce factor columns to character
    for (ci in which(sapply(res,is.logical))) res[[ci]] <- as.integer(res[[ci]]); ## coerce logical columns to integer (works around sqldf quirk of munging logicals to integers)
    ##for (ci in which(sapply(res,inherits,'POSIXct'))) res[[ci]] <- as.double(res[[ci]]); ## coerce POSIXct columns to double (works around sqldf quirk of losing POSIXct class) ----- POSIXct doesn't work at all in sqldf.indexed
    res <- res[order(names(res))]; ## order columns
    res <- res[do.call(order,res),]; ## order rows
    res;
}; ## end harmonize()

checkIdentical <- function(argSpecs,solTypes=getSolTypes()) {
    for (joinType in getJoinTypes()) {
        callExpressions <- setUpBenchmarkCall(argSpecs,joinType,solTypes);
        if (length(callExpressions)<2L) next;
        ex <- harmonize(eval(callExpressions[[1L]]));
        for (i in seq(2L,len=length(callExpressions)-1L)) {
            y <- harmonize(eval(callExpressions[[i]]));
            if (!isTRUE(all.equal(ex,y,check.attributes=F))) {
                ex <<- ex;
                y <<- y;
                solType <- names(callExpressions)[i];
                stop(paste0('non-identical: ',solType,' ',joinType,'.'));
            }; ## end if
        }; ## end for
    }; ## end for
    invisible();
}; ## end checkIdentical()

testJoinType <- function(argSpecs,joinType,solTypes=getSolTypes(),metric=NULL,times=100L) {
    callExpressions <- setUpBenchmarkCall(argSpecs,joinType,solTypes);
    bm <- microbenchmark(list=callExpressions,times=times);
    if (is.null(metric)) return(bm);
    bm <- summary(bm);
    res <- setNames(nm=names(callExpressions),bm[[metric]]);
    attr(res,'unit') <- attr(bm,'unit');
    res;
}; ## end testJoinType()

testAllJoinTypes <- function(argSpecs,solTypes=getSolTypes(),metric=NULL,times=100L) {
    joinTypes <- getJoinTypes();
    resList <- setNames(nm=joinTypes,lapply(joinTypes,function(joinType) testJoinType(argSpecs,joinType,solTypes,metric,times)));
    if (is.null(metric)) return(resList);
    units <- unname(unlist(lapply(resList,attr,'unit')));
    res <- do.call(data.frame,c(list(join=joinTypes),setNames(nm=solTypes,rep(list(rep(NA_real_,length(joinTypes))),length(solTypes))),list(unit=units,stringsAsFactors=F)));
    for (i in seq_along(resList)) res[i,match(names(resList[[i]]),names(res))] <- resList[[i]];
    res;
}; ## end testAllJoinTypes()

testGrid <- function(makeArgSpecsFunc,sizes,overlaps,solTypes=getSolTypes(),joinTypes=getJoinTypes(),metric='median',times=100L) {

    res <- expand.grid(size=sizes,overlap=overlaps,joinType=joinTypes,stringsAsFactors=F);
    res[solTypes] <- NA_real_;
    res$unit <- NA_character_;
    for (ri in seq_len(nrow(res))) {

        size <- res$size[ri];
        overlap <- res$overlap[ri];
        joinType <- res$joinType[ri];

        argSpecs <- makeArgSpecsFunc(size,overlap);

        checkIdentical(argSpecs,solTypes);

        cur <- testJoinType(argSpecs,joinType,solTypes,metric,times);
        res[ri,match(names(cur),names(res))] <- cur;
        res$unit[ri] <- attr(cur,'unit');

    }; ## end for

    res;

}; ## end testGrid()

Aqui está uma referência do exemplo baseado no OP que demonstrei anteriormente:

## OP's example, supplemented with a non-matching row in df2
argSpecs <- list(
    default=list(copySpec=1:2,args=list(
        df1 <- data.frame(CustomerId=1:6,Product=c(rep('Toaster',3L),rep('Radio',3L))),
        df2 <- data.frame(CustomerId=c(2L,4L,6L,7L),State=c(rep('Alabama',2L),'Ohio','Texas')),
        'CustomerId'
    )),
    data.table.unkeyed=list(copySpec=1:2,args=list(
        as.data.table(df1),
        as.data.table(df2),
        'CustomerId'
    )),
    data.table.keyed=list(copySpec=1:2,args=list(
        setkey(as.data.table(df1),CustomerId),
        setkey(as.data.table(df2),CustomerId)
    ))
);
## prepare sqldf
initSqldf();
sqldf('create index df1_key on df1(CustomerId);'); ## upload and create an sqlite index on df1
sqldf('create index df2_key on df2(CustomerId);'); ## upload and create an sqlite index on df2

checkIdentical(argSpecs);

testAllJoinTypes(argSpecs,metric='median');
##    join    merge data.table.unkeyed data.table.keyed sqldf.unindexed sqldf.indexed      plyr    dplyr in.place         unit
## 1 inner  644.259           861.9345          923.516        9157.752      1580.390  959.2250 270.9190       NA microseconds
## 2  left  713.539           888.0205          910.045        8820.334      1529.714  968.4195 270.9185 224.3045 microseconds
## 3 right 1221.804           909.1900          923.944        8930.668      1533.135 1063.7860 269.8495 218.1035 microseconds
## 4  full 1302.203          3107.5380         3184.729              NA            NA 1593.6475 270.7055       NA microseconds

Aqui, eu comparo dados de entrada aleatórios, tentando diferentes escalas e diferentes padrões de sobreposição de chaves entre as duas tabelas de entrada. Essa referência ainda está restrita ao caso de uma chave inteira de coluna única. Além disso, para garantir que a solução local funcione para as junções esquerda e direita das mesmas tabelas, todos os dados de teste aleatório usam 0..1:0..1cardinalidade. Isso é implementado por amostragem sem substituição da coluna-chave do primeiro data.frame ao gerar a coluna-chave do segundo data.frame.

makeArgSpecs.singleIntegerKey.optionalOneToOne <- function(size,overlap) {

    com <- as.integer(size*overlap);

    argSpecs <- list(
        default=list(copySpec=1:2,args=list(
            df1 <- data.frame(id=sample(size),y1=rnorm(size),y2=rnorm(size)),
            df2 <- data.frame(id=sample(c(if (com>0L) sample(df1$id,com) else integer(),seq(size+1L,len=size-com))),y3=rnorm(size),y4=rnorm(size)),
            'id'
        )),
        data.table.unkeyed=list(copySpec=1:2,args=list(
            as.data.table(df1),
            as.data.table(df2),
            'id'
        )),
        data.table.keyed=list(copySpec=1:2,args=list(
            setkey(as.data.table(df1),id),
            setkey(as.data.table(df2),id)
        ))
    );
    ## prepare sqldf
    initSqldf();
    sqldf('create index df1_key on df1(id);'); ## upload and create an sqlite index on df1
    sqldf('create index df2_key on df2(id);'); ## upload and create an sqlite index on df2

    argSpecs;

}; ## end makeArgSpecs.singleIntegerKey.optionalOneToOne()

## cross of various input sizes and key overlaps
sizes <- c(1e1L,1e3L,1e6L);
overlaps <- c(0.99,0.5,0.01);
system.time({ res <- testGrid(makeArgSpecs.singleIntegerKey.optionalOneToOne,sizes,overlaps); });
##     user   system  elapsed
## 22024.65 12308.63 34493.19

Eu escrevi um código para criar gráficos de log-log dos resultados acima. Eu gerei um gráfico separado para cada porcentagem de sobreposição. É um pouco confuso, mas eu gosto de ter todos os tipos de solução e tipos de junção representados no mesmo gráfico.

Usei a interpolação de splines para mostrar uma curva suave para cada combinação de solução / tipo de junção, desenhada com símbolos individuais de pch. O tipo de junção é capturado pelo símbolo pch, usando um ponto para os colchetes interno, esquerdo e direito para esquerda e direita e um diamante para cheio. O tipo de solução é capturado pela cor, como mostrado na legenda.

plotRes <- function(res,titleFunc,useFloor=F) {
    solTypes <- setdiff(names(res),c('size','overlap','joinType','unit')); ## derive from res
    normMult <- c(microseconds=1e-3,milliseconds=1); ## normalize to milliseconds
    joinTypes <- getJoinTypes();
    cols <- c(merge='purple',data.table.unkeyed='blue',data.table.keyed='#00DDDD',sqldf.unindexed='brown',sqldf.indexed='orange',plyr='red',dplyr='#00BB00',in.place='magenta');
    pchs <- list(inner=20L,left='<',right='>',full=23L);
    cexs <- c(inner=0.7,left=1,right=1,full=0.7);
    NP <- 60L;
    ord <- order(decreasing=T,colMeans(res[res$size==max(res$size),solTypes],na.rm=T));
    ymajors <- data.frame(y=c(1,1e3),label=c('1ms','1s'),stringsAsFactors=F);
    for (overlap in unique(res$overlap)) {
        x1 <- res[res$overlap==overlap,];
        x1[solTypes] <- x1[solTypes]*normMult[x1$unit]; x1$unit <- NULL;
        xlim <- c(1e1,max(x1$size));
        xticks <- 10^seq(log10(xlim[1L]),log10(xlim[2L]));
        ylim <- c(1e-1,10^((if (useFloor) floor else ceiling)(log10(max(x1[solTypes],na.rm=T))))); ## use floor() to zoom in a little more, only sqldf.unindexed will break above, but xpd=NA will keep it visible
        yticks <- 10^seq(log10(ylim[1L]),log10(ylim[2L]));
        yticks.minor <- rep(yticks[-length(yticks)],each=9L)*1:9;
        plot(NA,xlim=xlim,ylim=ylim,xaxs='i',yaxs='i',axes=F,xlab='size (rows)',ylab='time (ms)',log='xy');
        abline(v=xticks,col='lightgrey');
        abline(h=yticks.minor,col='lightgrey',lty=3L);
        abline(h=yticks,col='lightgrey');
        axis(1L,xticks,parse(text=sprintf('10^%d',as.integer(log10(xticks)))));
        axis(2L,yticks,parse(text=sprintf('10^%d',as.integer(log10(yticks)))),las=1L);
        axis(4L,ymajors$y,ymajors$label,las=1L,tick=F,cex.axis=0.7,hadj=0.5);
        for (joinType in rev(joinTypes)) { ## reverse to draw full first, since it's larger and would be more obtrusive if drawn last
            x2 <- x1[x1$joinType==joinType,];
            for (solType in solTypes) {
                if (any(!is.na(x2[[solType]]))) {
                    xy <- spline(x2$size,x2[[solType]],xout=10^(seq(log10(x2$size[1L]),log10(x2$size[nrow(x2)]),len=NP)));
                    points(xy$x,xy$y,pch=pchs[[joinType]],col=cols[solType],cex=cexs[joinType],xpd=NA);
                }; ## end if
            }; ## end for
        }; ## end for
        ## custom legend
        ## due to logarithmic skew, must do all distance calcs in inches, and convert to user coords afterward
        ## the bottom-left corner of the legend will be defined in normalized figure coords, although we can convert to inches immediately
        leg.cex <- 0.7;
        leg.x.in <- grconvertX(0.275,'nfc','in');
        leg.y.in <- grconvertY(0.6,'nfc','in');
        leg.x.user <- grconvertX(leg.x.in,'in');
        leg.y.user <- grconvertY(leg.y.in,'in');
        leg.outpad.w.in <- 0.1;
        leg.outpad.h.in <- 0.1;
        leg.midpad.w.in <- 0.1;
        leg.midpad.h.in <- 0.1;
        leg.sol.w.in <- max(strwidth(solTypes,'in',leg.cex));
        leg.sol.h.in <- max(strheight(solTypes,'in',leg.cex))*1.5; ## multiplication factor for greater line height
        leg.join.w.in <- max(strheight(joinTypes,'in',leg.cex))*1.5; ## ditto
        leg.join.h.in <- max(strwidth(joinTypes,'in',leg.cex));
        leg.main.w.in <- leg.join.w.in*length(joinTypes);
        leg.main.h.in <- leg.sol.h.in*length(solTypes);
        leg.x2.user <- grconvertX(leg.x.in+leg.outpad.w.in*2+leg.main.w.in+leg.midpad.w.in+leg.sol.w.in,'in');
        leg.y2.user <- grconvertY(leg.y.in+leg.outpad.h.in*2+leg.main.h.in+leg.midpad.h.in+leg.join.h.in,'in');
        leg.cols.x.user <- grconvertX(leg.x.in+leg.outpad.w.in+leg.join.w.in*(0.5+seq(0L,length(joinTypes)-1L)),'in');
        leg.lines.y.user <- grconvertY(leg.y.in+leg.outpad.h.in+leg.main.h.in-leg.sol.h.in*(0.5+seq(0L,length(solTypes)-1L)),'in');
        leg.sol.x.user <- grconvertX(leg.x.in+leg.outpad.w.in+leg.main.w.in+leg.midpad.w.in,'in');
        leg.join.y.user <- grconvertY(leg.y.in+leg.outpad.h.in+leg.main.h.in+leg.midpad.h.in,'in');
        rect(leg.x.user,leg.y.user,leg.x2.user,leg.y2.user,col='white');
        text(leg.sol.x.user,leg.lines.y.user,solTypes[ord],cex=leg.cex,pos=4L,offset=0);
        text(leg.cols.x.user,leg.join.y.user,joinTypes,cex=leg.cex,pos=4L,offset=0,srt=90); ## srt rotation applies *after* pos/offset positioning
        for (i in seq_along(joinTypes)) {
            joinType <- joinTypes[i];
            points(rep(leg.cols.x.user[i],length(solTypes)),ifelse(colSums(!is.na(x1[x1$joinType==joinType,solTypes[ord]]))==0L,NA,leg.lines.y.user),pch=pchs[[joinType]],col=cols[solTypes[ord]]);
        }; ## end for
        title(titleFunc(overlap));
        readline(sprintf('overlap %.02f',overlap));
    }; ## end for
}; ## end plotRes()

titleFunc <- function(overlap) sprintf('R merge solutions: single-column integer key, 0..1:0..1 cardinality, %d%% overlap',as.integer(overlap*100));
plotRes(res,titleFunc,T);

R-mesclar-referência-única-coluna-inteiro-chave-opcional-um-para-um-99

R-mesclar-referência-única-coluna-inteiro-chave-opcional-um-para-um-50

R-mesclar-referência-única-coluna-inteiro-chave-opcional-um-para-um-1


Aqui está uma segunda referência em larga escala, mais pesada, com relação ao número e tipos de colunas-chave, além de cardinalidade. Para esse benchmark, uso três colunas principais: um caractere, um inteiro e um lógico, sem restrições de cardinalidade (ou seja, 0..*:0..*). (Em geral, não é aconselhável definir colunas-chave com valores duplos ou complexos devido a complicações de comparação de ponto flutuante e, basicamente, ninguém nunca usa o tipo bruto, muito menos para colunas-chave, por isso não incluí esses tipos na chave Além disso, para fins de informação, tentei inicialmente usar quatro colunas-chave incluindo uma coluna-chave POSIXct, mas o tipo POSIXct não funcionou bem com a sqldf.indexedsolução por algum motivo, possivelmente devido a anomalias de comparação de ponto flutuante, então eu removido.)

makeArgSpecs.assortedKey.optionalManyToMany <- function(size,overlap,uniquePct=75) {

    ## number of unique keys in df1
    u1Size <- as.integer(size*uniquePct/100);

    ## (roughly) divide u1Size into bases, so we can use expand.grid() to produce the required number of unique key values with repetitions within individual key columns
    ## use ceiling() to ensure we cover u1Size; will truncate afterward
    u1SizePerKeyColumn <- as.integer(ceiling(u1Size^(1/3)));

    ## generate the unique key values for df1
    keys1 <- expand.grid(stringsAsFactors=F,
        idCharacter=replicate(u1SizePerKeyColumn,paste(collapse='',sample(letters,sample(4:12,1L),T))),
        idInteger=sample(u1SizePerKeyColumn),
        idLogical=sample(c(F,T),u1SizePerKeyColumn,T)
        ##idPOSIXct=as.POSIXct('2016-01-01 00:00:00','UTC')+sample(u1SizePerKeyColumn)
    )[seq_len(u1Size),];

    ## rbind some repetitions of the unique keys; this will prepare one side of the many-to-many relationship
    ## also scramble the order afterward
    keys1 <- rbind(keys1,keys1[sample(nrow(keys1),size-u1Size,T),])[sample(size),];

    ## common and unilateral key counts
    com <- as.integer(size*overlap);
    uni <- size-com;

    ## generate some unilateral keys for df2 by synthesizing outside of the idInteger range of df1
    keys2 <- data.frame(stringsAsFactors=F,
        idCharacter=replicate(uni,paste(collapse='',sample(letters,sample(4:12,1L),T))),
        idInteger=u1SizePerKeyColumn+sample(uni),
        idLogical=sample(c(F,T),uni,T)
        ##idPOSIXct=as.POSIXct('2016-01-01 00:00:00','UTC')+u1SizePerKeyColumn+sample(uni)
    );

    ## rbind random keys from df1; this will complete the many-to-many relationship
    ## also scramble the order afterward
    keys2 <- rbind(keys2,keys1[sample(nrow(keys1),com,T),])[sample(size),];

    ##keyNames <- c('idCharacter','idInteger','idLogical','idPOSIXct');
    keyNames <- c('idCharacter','idInteger','idLogical');
    ## note: was going to use raw and complex type for two of the non-key columns, but data.table doesn't seem to fully support them
    argSpecs <- list(
        default=list(copySpec=1:2,args=list(
            df1 <- cbind(stringsAsFactors=F,keys1,y1=sample(c(F,T),size,T),y2=sample(size),y3=rnorm(size),y4=replicate(size,paste(collapse='',sample(letters,sample(4:12,1L),T)))),
            df2 <- cbind(stringsAsFactors=F,keys2,y5=sample(c(F,T),size,T),y6=sample(size),y7=rnorm(size),y8=replicate(size,paste(collapse='',sample(letters,sample(4:12,1L),T)))),
            keyNames
        )),
        data.table.unkeyed=list(copySpec=1:2,args=list(
            as.data.table(df1),
            as.data.table(df2),
            keyNames
        )),
        data.table.keyed=list(copySpec=1:2,args=list(
            setkeyv(as.data.table(df1),keyNames),
            setkeyv(as.data.table(df2),keyNames)
        ))
    );
    ## prepare sqldf
    initSqldf();
    sqldf(paste0('create index df1_key on df1(',paste(collapse=',',keyNames),');')); ## upload and create an sqlite index on df1
    sqldf(paste0('create index df2_key on df2(',paste(collapse=',',keyNames),');')); ## upload and create an sqlite index on df2

    argSpecs;

}; ## end makeArgSpecs.assortedKey.optionalManyToMany()

sizes <- c(1e1L,1e3L,1e5L); ## 1e5L instead of 1e6L to respect more heavy-duty inputs
overlaps <- c(0.99,0.5,0.01);
solTypes <- setdiff(getSolTypes(),'in.place');
system.time({ res <- testGrid(makeArgSpecs.assortedKey.optionalManyToMany,sizes,overlaps,solTypes); });
##     user   system  elapsed
## 38895.50   784.19 39745.53

As plotagens resultantes, usando o mesmo código de plotagem fornecido acima:

titleFunc <- function(overlap) sprintf('R merge solutions: character/integer/logical key, 0..*:0..* cardinality, %d%% overlap',as.integer(overlap*100));
plotRes(res,titleFunc,F);

R-mesclar-referência-chave-sortida-opcional-muitos-para-muitos-99

R-mesclar-referência-chave-sortida-opcional-muitos-para-muitos-50

R-mesclar-referência-chave-sortida-opcional-muitos-para-muitos-1


análise muito boa, mas é uma pena que você defina a escala de 10 ^ 1 a 10 ^ 6, esses são conjuntos tão pequenos que a diferença de velocidade é quase irrelevante. 10 ^ 6 a 10 ^ 8 seria interessante ver!
Jangorecki

1
Também vi que você inclui o momento da coerção de classe no benchmark, o que o torna inválido para a operação de junção.
jangorecki

8
  1. Usando a mergefunção, podemos selecionar a variável da tabela esquerda ou da direita, da mesma maneira que todos conhecemos com a instrução select no SQL (EX: selecione a. * ... ou selecione b. * Em .....)
  2. Temos que adicionar código extra que será subconjunto da tabela recém-ingressada.

    • SQL: - select a.* from df1 a inner join df2 b on a.CustomerId=b.CustomerId

    • R: - merge(df1, df2, by.x = "CustomerId", by.y = "CustomerId")[,names(df1)]

Da mesma maneira

  • SQL: - select b.* from df1 a inner join df2 b on a.CustomerId=b.CustomerId

  • R: - merge(df1, df2, by.x = "CustomerId", by.y = "CustomerId")[,names(df2)]


7

Para uma junção interna em todas as colunas, você também pode usar a fintersectpartir do pacote data.table ou intersectdo pacote dplyr como uma alternativa para, mergesem especificar as bycolunas. isso fornecerá as linhas iguais entre dois quadros de dados:

merge(df1, df2)
#   V1 V2
# 1  B  2
# 2  C  3
dplyr::intersect(df1, df2)
#   V1 V2
# 1  B  2
# 2  C  3
data.table::fintersect(setDT(df1), setDT(df2))
#    V1 V2
# 1:  B  2
# 2:  C  3

Dados de exemplo:

df1 <- data.frame(V1 = LETTERS[1:4], V2 = 1:4)
df2 <- data.frame(V1 = LETTERS[2:3], V2 = 2:3)

5

Atualizar associação. Uma outra junção importante no estilo SQL é uma " junção de atualização ", na qual as colunas em uma tabela são atualizadas (ou criadas) usando outra tabela.

Modificando as tabelas de exemplo do OP ...

sales = data.frame(
  CustomerId = c(1, 1, 1, 3, 4, 6), 
  Year = 2000:2005,
  Product = c(rep("Toaster", 3), rep("Radio", 3))
)
cust = data.frame(
  CustomerId = c(1, 1, 4, 6), 
  Year = c(2001L, 2002L, 2002L, 2002L),
  State = state.name[1:4]
)

sales
# CustomerId Year Product
#          1 2000 Toaster
#          1 2001 Toaster
#          1 2002 Toaster
#          3 2003   Radio
#          4 2004   Radio
#          6 2005   Radio

cust
# CustomerId Year    State
#          1 2001  Alabama
#          1 2002   Alaska
#          4 2002  Arizona
#          6 2002 Arkansas

Suponha que desejemos adicionar o estado do cliente de custà tabela de compras sales, ignorando a coluna do ano. Com a base R, podemos identificar linhas correspondentes e copiar valores sobre:

sales$State <- cust$State[ match(sales$CustomerId, cust$CustomerId) ]

# CustomerId Year Product    State
#          1 2000 Toaster  Alabama
#          1 2001 Toaster  Alabama
#          1 2002 Toaster  Alabama
#          3 2003   Radio     <NA>
#          4 2004   Radio  Arizona
#          6 2005   Radio Arkansas

# cleanup for the next example
sales$State <- NULL

Como pode ser visto aqui, matchseleciona a primeira linha correspondente da tabela do cliente.


Atualizar junção com várias colunas.A abordagem acima funciona bem quando ingressamos em apenas uma coluna e estamos satisfeitos com a primeira partida. Suponha que desejamos que o ano de medição na tabela de clientes corresponda ao ano de venda.

Como a resposta de @ bgoldst menciona, matchcom interactionpode ser uma opção para este caso. Mais diretamente, pode-se usar data.table:

library(data.table)
setDT(sales); setDT(cust)

sales[, State := cust[sales, on=.(CustomerId, Year), x.State]]

#    CustomerId Year Product   State
# 1:          1 2000 Toaster    <NA>
# 2:          1 2001 Toaster Alabama
# 3:          1 2002 Toaster  Alaska
# 4:          3 2003   Radio    <NA>
# 5:          4 2004   Radio    <NA>
# 6:          6 2005   Radio    <NA>

# cleanup for next example
sales[, State := NULL]

Junção de atualização contínua. Como alternativa, convém tomar o último estado em que o cliente foi encontrado:

sales[, State := cust[sales, on=.(CustomerId, Year), roll=TRUE, x.State]]

#    CustomerId Year Product    State
# 1:          1 2000 Toaster     <NA>
# 2:          1 2001 Toaster  Alabama
# 3:          1 2002 Toaster   Alaska
# 4:          3 2003   Radio     <NA>
# 5:          4 2004   Radio  Arizona
# 6:          6 2005   Radio Arkansas

Os três exemplos acima se concentram na criação / adição de uma nova coluna. Consulte as perguntas frequentes relacionadas ao R para obter um exemplo de atualização / modificação de uma coluna existente.

Ao utilizar nosso site, você reconhece que leu e compreendeu nossa Política de Cookies e nossa Política de Privacidade.
Licensed under cc by-sa 3.0 with attribution required.