Filtrar linhas que contêm uma determinada sequência

188

Eu tenho que filtrar um quadro de dados usando como critério a linha na qual está a string RTB.

Estou usando dplyr.

d.del <- df %.%
  group_by(TrackingPixel) %.%
  summarise(MonthDelivery = as.integer(sum(Revenue))) %.%
  arrange(desc(MonthDelivery))

Eu sei que posso usar a função filter, dplyrmas não sei exatamente como pedir para verificar o conteúdo de uma string.

Em particular, quero verificar o conteúdo da coluna TrackingPixel. Se a string contiver o rótulo RTB, desejo remover a linha do resultado.

r  filter  dplyr 
— Gianluca
fonte
27
Eu nunca usei dplyr, mas olhando para a ajuda em ?dplyr::filtereu sugerir algo como filter(df, !grepl("RTB",TrackingPixel))talvez?
— thelatemail
1
Isso é realmente próximo do que eu quero alcançar. O único problema é que é manter as strings que incluem o rótulo RTBe não mostrar as outras.
— Gianluca
Acabei de colocar uma edição furtiva, que agora é revertida adicionando a !frente grepl- tente novamente.
— Thelatemail
4
Ou use os argumentos inverte valuede grep. Expressões regulares tornam o trabalho com texto mil vezes mais fácil.
— Rich Scriven)
4
@thelatemail greplnão funciona no postgres para mim, é para o MySQL?
— Statwonk

Respostas:

255

A resposta para a pergunta já foi postada pelo @latemail nos comentários acima. Você pode usar expressões regulares para o segundo e argumentos subsequentes filtercomo este:

dplyr::filter(df, !grepl("RTB",TrackingPixel))

Como você não forneceu os dados originais, adicionarei um exemplo de brinquedo usando o mtcarsconjunto de dados. Imagine que você só está interessado em carros produzidos pela Mazda ou Toyota.

mtcars$type <- rownames(mtcars)
dplyr::filter(mtcars, grepl('Toyota|Mazda', type))

   mpg cyl  disp  hp drat    wt  qsec vs am gear carb           type
1 21.0   6 160.0 110 3.90 2.620 16.46  0  1    4    4      Mazda RX4
2 21.0   6 160.0 110 3.90 2.875 17.02  0  1    4    4  Mazda RX4 Wag
3 33.9   4  71.1  65 4.22 1.835 19.90  1  1    4    1 Toyota Corolla
4 21.5   4 120.1  97 3.70 2.465 20.01  1  0    3    1  Toyota Corona

Se você quiser fazer o contrário, excluindo carros Toyota e Mazda, o filtercomando será assim:

dplyr::filter(mtcars, !grepl('Toyota|Mazda', type))
— alex23lemm
fonte
e se o nome da coluna contiver um espaço. como rastrear pixels.
— MySchizoBuddy
3
certifique-se que você está usando a função de filtro do pacote dplyr, não o pacote de estatísticas
— JHowIX
2
@MySchizoBuddy: se o nome da coluna contiver espaço em branco, você poderá selecionar a variável usando backticks. Modificando o exemplo acima: mtcars$`my type` <- rownames(mtcars)e depoismtcars %>% filter(grepl('Toyota|Mazda', `my type`))
— alex23lemm
13
observe que isso não funciona quando o objeto é tbl_sqlcomo greplnão se traduz em sql.
— David LeBauer
a opção 1 é saber com certeza que o dplyr foi carregado por último. a opção 2 é o prefixo dplyr :: filter.
— userJT
157

Solução

É possível usar str_detecto stringrpacote incluído no tidyversepacote. str_detectretorna Trueou Falsese o vetor especificado contém alguma sequência específica. É possível filtrar usando esse valor booleano. Veja Introdução ao stringr para detalhes sobre o stringrpacote.

library(tidyverse)
# ─ Attaching packages ──────────────────── tidyverse 1.2.1 ─
# ✔ ggplot2 2.2.1     ✔ purrr   0.2.4
# ✔ tibble  1.4.2     ✔ dplyr   0.7.4
# ✔ tidyr   0.7.2     ✔ stringr 1.2.0
# ✔ readr   1.1.1     ✔ forcats 0.3.0
# ─ Conflicts ───────────────────── tidyverse_conflicts() ─
# ✖ dplyr::filter() masks stats::filter()
# ✖ dplyr::lag()    masks stats::lag()

mtcars$type <- rownames(mtcars)
mtcars %>%
  filter(str_detect(type, 'Toyota|Mazda'))
# mpg cyl  disp  hp drat    wt  qsec vs am gear carb           type
# 1 21.0   6 160.0 110 3.90 2.620 16.46  0  1    4    4      Mazda RX4
# 2 21.0   6 160.0 110 3.90 2.875 17.02  0  1    4    4  Mazda RX4 Wag
# 3 33.9   4  71.1  65 4.22 1.835 19.90  1  1    4    1 Toyota Corolla
# 4 21.5   4 120.1  97 3.70 2.465 20.01  1  0    3    1  Toyota Corona

As coisas boas sobre Stringr

Devemos usar ao stringr::str_detect()invés de base::grepl(). Isso ocorre porque existem os seguintes motivos.

  • As funções fornecidas pelo stringrpacote começam com o prefixo str_, o que facilita a leitura do código.
  • O primeiro argumento das funções do stringrpacote é sempre o data.frame (ou valor), depois vêm os parâmetros (obrigado Paolo)
object <- "stringr"
# The functions with the same prefix `str_`.
# The first argument is an object.
stringr::str_count(object) # -> 7
stringr::str_sub(object, 1, 3) # -> "str"
stringr::str_detect(object, "str") # -> TRUE
stringr::str_replace(object, "str", "") # -> "ingr"
# The function names without common points.
# The position of the argument of the object also does not match.
base::nchar(object) # -> 7
base::substr(object, 1, 3) # -> "str"
base::grepl("str", object) # -> TRUE
base::sub("str", "", object) # -> "ingr"

Referência

Os resultados do teste de benchmark são os seguintes. Para dataframe grande, str_detecté mais rápido.

library(rbenchmark)
library(tidyverse)

# The data. Data expo 09. ASA Statistics Computing and Graphics 
# http://stat-computing.org/dataexpo/2009/the-data.html
df <- read_csv("Downloads/2008.csv")
print(dim(df))
# [1] 7009728      29

benchmark(
  "str_detect" = {df %>% filter(str_detect(Dest, 'MCO|BWI'))},
  "grepl" = {df %>% filter(grepl('MCO|BWI', Dest))},
  replications = 10,
  columns = c("test", "replications", "elapsed", "relative", "user.self", "sys.self"))
# test replications elapsed relative user.self sys.self
# 2      grepl           10  16.480    1.513    16.195    0.248
# 1 str_detect           10  10.891    1.000     9.594    1.281
— Keiku
fonte
1
Por que stringr é uma opção melhor que grep?
— CameronNemo
2
@CameronNemo As funções fornecidas pelo stringrpacote começam com o prefixo str_, que facilita a leitura do código. No código R moderno e recente, é recomendável usar stringr.
— Keiku
3
Acho que essa é uma preferência muito pessoal e concordo com o @CameronNemo que base Ré tão bom quanto stringr. Se você nos fornecer alguns "fatos concretos", como o benchmarking, e não apenas declarar "é recomendado" (quem o recomenda?), Isso seria muito apreciado. Graças
— Tjebo
2
Uma outra razão é a consistência na estrutura tidyverse: o primeiro argumento de uma função é sempre o data.frame (ou valor), depois vêm os parâmetros.
— Paolo
22

Esta resposta é semelhante a outras, mas usando o preferido stringr::str_detecte o dplyr rownames_to_column.

library(tidyverse)

mtcars %>% 
  rownames_to_column("type") %>% 
  filter(stringr::str_detect(type, 'Toyota|Mazda') )

#>             type  mpg cyl  disp  hp drat    wt  qsec vs am gear carb
#> 1      Mazda RX4 21.0   6 160.0 110 3.90 2.620 16.46  0  1    4    4
#> 2  Mazda RX4 Wag 21.0   6 160.0 110 3.90 2.875 17.02  0  1    4    4
#> 3 Toyota Corolla 33.9   4  71.1  65 4.22 1.835 19.90  1  1    4    1
#> 4  Toyota Corona 21.5   4 120.1  97 3.70 2.465 20.01  1  0    3    1

Criado em 26/06/2018 pelo pacote reprex (v0.2.0).

— Urtiga
fonte
1
str_detectestá no stringrpacote
— jsta 13/08/18
3

editar incluiu a across()sintaxe mais recente

Aqui está outra tidyversesolução, usando filter(across())ou anteriormente filter_at. A vantagem é que você pode estender facilmente para mais de uma coluna .

Abaixo também uma solução com a filter_allfim de encontrar a string em qualquer coluna, usando diamondscomo exemplo, procurando a string "V"

library(tidyverse)

String em apenas uma coluna

# for only one column... extendable to more than one creating a column list in `across` or `vars`!
mtcars %>% 
  rownames_to_column("type") %>% 
  filter(across(type, ~ !grepl('Toyota|Mazda', .))) %>%
  head()
#>                type  mpg cyl  disp  hp drat    wt  qsec vs am gear carb
#> 1        Datsun 710 22.8   4 108.0  93 3.85 2.320 18.61  1  1    4    1
#> 2    Hornet 4 Drive 21.4   6 258.0 110 3.08 3.215 19.44  1  0    3    1
#> 3 Hornet Sportabout 18.7   8 360.0 175 3.15 3.440 17.02  0  0    3    2
#> 4           Valiant 18.1   6 225.0 105 2.76 3.460 20.22  1  0    3    1
#> 5        Duster 360 14.3   8 360.0 245 3.21 3.570 15.84  0  0    3    4
#> 6         Merc 240D 24.4   4 146.7  62 3.69 3.190 20.00  1  0    4    2

A sintaxe agora substituída para o mesmo seria:

mtcars %>% 
  rownames_to_column("type") %>% 
  filter_at(.vars= vars(type), all_vars(!grepl('Toyota|Mazda',.)))

String em todas as colunas:

# remove all rows where any column contains 'V'
diamonds %>%
  filter(across(everything(), ~ !grepl('V', .))) %>%
  head
#> # A tibble: 6 x 10
#>   carat cut     color clarity depth table price     x     y     z
#>   <dbl> <ord>   <ord> <ord>   <dbl> <dbl> <int> <dbl> <dbl> <dbl>
#> 1  0.23 Ideal   E     SI2      61.5    55   326  3.95  3.98  2.43
#> 2  0.21 Premium E     SI1      59.8    61   326  3.89  3.84  2.31
#> 3  0.31 Good    J     SI2      63.3    58   335  4.34  4.35  2.75
#> 4  0.3  Good    J     SI1      64      55   339  4.25  4.28  2.73
#> 5  0.22 Premium F     SI1      60.4    61   342  3.88  3.84  2.33
#> 6  0.31 Ideal   J     SI2      62.2    54   344  4.35  4.37  2.71

A sintaxe agora substituída para o mesmo seria:

diamonds %>% 
  filter_all(all_vars(!grepl('V', .))) %>%
  head

Tentei encontrar uma alternativa alternativa para o seguinte, mas não encontrei imediatamente uma boa solução:

    #get all rows where any column contains 'V'
    diamonds %>%
    filter_all(any_vars(grepl('V',.))) %>%
      head
    #> # A tibble: 6 x 10
    #>   carat cut       color clarity depth table price     x     y     z
    #>   <dbl> <ord>     <ord> <ord>   <dbl> <dbl> <int> <dbl> <dbl> <dbl>
    #> 1 0.23  Good      E     VS1      56.9    65   327  4.05  4.07  2.31
    #> 2 0.290 Premium   I     VS2      62.4    58   334  4.2   4.23  2.63
    #> 3 0.24  Very Good J     VVS2     62.8    57   336  3.94  3.96  2.48
    #> 4 0.24  Very Good I     VVS1     62.3    57   336  3.95  3.98  2.47
    #> 5 0.26  Very Good H     SI1      61.9    55   337  4.07  4.11  2.53
    #> 6 0.22  Fair      E     VS2      65.1    61   337  3.87  3.78  2.49

Atualização: Obrigado ao usuário Petr Kajzar nesta resposta , aqui também uma abordagem para o acima:

diamonds %>%
   filter(rowSums(across(everything(), ~grepl("V", .x))) > 0)
— Tjebo
fonte
Ao utilizar nosso site, você reconhece que leu e compreendeu nossa Política de Cookies e nossa Política de Privacidade.
Licensed under cc by-sa 3.0 with attribution required.