Eu tenho um script ksh que retorna uma longa lista de valores separados por nova linha e quero ver apenas os valores exclusivos / distintos. É possível fazer isso?
Por exemplo, digamos que minha saída seja sufixos de arquivo em um diretório:
tar gz java gz java tar class class
Eu quero ver uma lista como:
tar gz java class
Respostas:
Você pode querer olhar para os aplicativos uniqe sort.
./yourscript.ksh | classificar | uniq
(Para sua informação, sim, a classificação é necessária nesta linha de comando, uniqapenas retira as linhas duplicadas imediatamente após a outra)
EDITAR:
Ao contrário do que foi postado por Aaron Digulla em relação às uniqopções de linha de comando:
Dada a seguinte entrada:
classe jarra jarra jarra bin bin Java
uniq produzirá todas as linhas exatamente uma vez:
classe jarra bin Java
uniq -d produzirá todas as linhas que aparecerem mais de uma vez e as imprimirá uma vez:
jarra bin
uniq -u produzirá todas as linhas que aparecerem exatamente uma vez e as imprimirá uma vez:
classe Java
sortpossui uma -uversão para fornecer valores únicos.
uniqcosturas processam apenas linhas adjacentes (pelo menos por padrão), o que significa que se pode sortinserir antes da alimentação uniq.
./script.sh | sort -uÉ o mesmo que a resposta do monóxido , mas um pouco mais concisa.
... | sort | uniquma vez que é realizada em um único tiro
Para conjuntos de dados maiores em que a classificação pode não ser desejável, você também pode usar o seguinte script perl:
./yourscript.ksh | perl -ne 'if (!defined $x{$_}) { print $_; $x{$_} = 1; }'Basicamente, isso apenas lembra todas as saídas de linha, para que não sejam exibidas novamente.
Tem a vantagem sobre a sort | uniqsolução " ", pois não há necessidade de classificação antecipada.
Com o zsh, você pode fazer isso:
% cat infile
tar
more than one word
gz
java
gz
java
tar
class
class
zsh-5.0.0[t]% print -l "${(fu)$(<infile)}"
tar
more than one word
gz
java
classOu você pode usar o AWK:
% awk '!_[$0]++' infile
tar
more than one word
gz
java
classawksolução muito inteligente, porém enigmática (consulte stackoverflow.com/a/21200722/45375 para obter uma explicação) funcionará com arquivos grandes, desde que o número de linhas exclusivas seja pequeno o suficiente (pois as linhas exclusivas são mantidas na memória ) A zshsolução lê o arquivo inteiro primeiro na memória, o que pode não ser uma opção para arquivos grandes. Além disso, conforme escrito, apenas as linhas sem espaços incorporados são tratadas corretamente; Para corrigir isso, use em IFS=$'\n' read -d '' -r -A u <file; print -l ${(u)u}vez disso.
(IFS=$'\n' u=($(<infile)); print -l "${(u)u[@]}")
[@]sufixo para referenciar todos os elementos de uma matriz - parece que - pelo menos a partir da versão 5 - funciona sem ela; ou você acabou de adicioná-lo para maior clareza?
print -l "${(fu)$(<infile)}"
awksaída de amostra.
Conduza-os através de sorte uniq. Isso remove todas as duplicatas.
uniq -dfornece apenas as duplicatas, uniq -ufornece apenas as únicas (retira as duplicatas).
uniq -unão é o comportamento padrão (consulte a edição em minha resposta para mais detalhes)
Exclusivo, conforme solicitado, (mas não classificado);
usa menos recursos do sistema para menos de ~ 70 elementos (conforme testado com o tempo);
escrito para receber a entrada de stdin,
(ou modificar e incluir em outro script):
(Bash)
bag2set () {
# Reduce a_bag to a_set.
local -i i j n=${#a_bag[@]}
for ((i=0; i < n; i++)); do
if [[ -n ${a_bag[i]} ]]; then
a_set[i]=${a_bag[i]}
a_bag[i]=$'\0'
for ((j=i+1; j < n; j++)); do
[[ ${a_set[i]} == ${a_bag[j]} ]] && a_bag[j]=$'\0'
done
fi
done
}
declare -a a_bag=() a_set=()
stdin="$(</dev/stdin)"
declare -i i=0
for e in $stdin; do
a_bag[i]=$e
i=$i+1
done
bag2set
echo "${a_set[@]}"Recebo dicas melhores para obter entradas não duplicadas em um arquivo
awk '$0 != x ":FOO" && NR>1 {print x} {x=$0} END {print}' file_name | uniq -f1 -u