Adicione uma coluna de números no shell do Unix

Dada uma lista de arquivos files.txt, posso obter uma lista de seus tamanhos assim:

cat files.txt | xargs ls -l | cut -c 23-30

que produz algo parecido com isto:

  151552
  319488
 1536000
  225280

Como posso obter o total de todos esses números?

... | paste -sd+ - | bc

é o mais curto que encontrei (no blog da linha de comando do UNIX ).

Edit: adicionado o -argumento de portabilidade, obrigado @Dogbert e @Owen.

Aqui vai

cat files.txt | xargs ls -l | cut -c 23-30 | 
  awk '{total = total + $1}END{print total}'

Em vez de usar cut para obter o tamanho do arquivo da saída de ls -l , você pode usar diretamente:

$ cat files.txt | xargs ls -l | awk '{total += $5} END {print "Total:", total, "bytes"}'

O Awk interpreta "$ 5" como a quinta coluna. Esta é a coluna de ls -l que fornece o tamanho do arquivo.

O gato não funcionará se houver espaços nos nomes de arquivos. aqui está um one-liner perl.

perl -nle 'chomp; $x+=(stat($_))[7]; END{print $x}' files.txt

python3 -c"import os; print(sum(os.path.getsize(f) for f in open('files.txt').read().split()))"

Ou, se você quiser somar os números, insira:

python3 -c"import sys; print(sum(int(x) for x in sys.stdin))"

TMTWWTDI : Perl tem um operador de tamanho de arquivo (-s)

perl -lne '$t+=-s;END{print $t}' files.txt

Todo o ls -l e depois o corte são bastante complicados quando você tem stat . Também é vulnerável ao formato exato de ls -l (não funcionou até eu alterar os números das colunas para cortar )

Além disso, foi corrigido o uso inútil do gato .

<files.txt  xargs stat -c %s | paste -sd+ - | bc

se você não tiver o bc instalado, tente

echo $(( $(... | paste -sd+ -) ))

ao invés de

... | paste -sd+ - | bc

$( ) <- retorna o valor da execução do comando

$(( 1+2 )) <- retorna os resultados avaliados

echo <- faça eco na tela

Você pode usar o seguinte script se desejar apenas usar scripts de shell sem awk ou outros intérpretes:

#!/bin/bash

total=0

for number in `cat files.txt | xargs ls -l | cut -c 23-30`; do
   let total=$total+$number
done

echo $total

Eu usaria "du" em vez disso.

$ cat files.txt | xargs du -c | tail -1
4480    total

Se você quer apenas o número:

cat files.txt | xargs du -c | tail -1 | awk '{print $1}'

Em ksh:

echo " 0 $(ls -l $(<files.txt) | awk '{print $5}' | tr '\n' '+') 0" | bc

Pipe to gawk:

 cat files.txt | xargs ls -l | cut -c 23-30 | gawk 'BEGIN { sum = 0 } // { sum = sum + $0 } END { print sum }'

Aqui está o meu

cat files.txt | xargs ls -l | cut -c 23-30 | sed -e :a -e '$!N;s/\n/+/;ta' | bc

#
#       @(#) addup.sh 1.0 90/07/19
#
#       Copyright (C) <heh> SjB, 1990
#       Adds up a column (default=last) of numbers in a file.
#       95/05/16 updated to allow (999) negative style numbers.


case $1 in

-[0-9])

        COLUMN=`echo $1 | tr -d -`

        shift

;;

*)

        COLUMN="NF"

;;

esac

echo "Adding up column .. $COLUMN .. of file(s) .. $*"

nawk  ' OFMT="%.2f"                                       # 1 "%12.2f"

        { x = '$COLUMN'                                   # 2

          neg = index($x, "$")                            # 3

          if (neg > 0) X = gsub("\\$", "", $x)

          neg = index($x, ",")                            # 4

          if (neg > 1) X = gsub(",", "", $x)

          neg = index($x, "(")                            # 8 neg (123 & change

          if (neg > 0) X = gsub("\\(", "", $x)

          if (neg > 0) $x = (-1 * $x)                     # it to "-123.00"

          neg = index($x, "-")                            # 5

          if (neg > 1) $x = (-1 * $x)                     # 6

          t += $x                                         # 7

          print "x is <<<", $x+0, ">>> running balance:", t

        } ' $*


# 1.  set numeric format to eliminate rounding errors
# 1.1 had to reset numeric format from 12.2f to .2f 95/05/16
#     when a computed number is assigned to a variable ( $x = (-1 * $x) )
#     it causes $x to use the OFMT so -1.23 = "________-1.23" vs "-1.23"
#     and that causes my #5 (negative check) to not work correctly because
#     the index returns a number >1 and to the neg neg than becomes a positive
#     this only occurs if the number happened to b a "(" neg number
# 2.  find the field we want to add up (comes from the shell or defaults
#     to the last field "NF") in the file
# 3.  check for a dollar sign ($) in the number - if there get rid of it
#     so we may add it correctly - $12 $1$2 $1$2$ $$1$$2$$ all = 12
# 4.  check for a comma (,) in the number - if there get rid of it so we
#     may add it correctly - 1,2 12, 1,,2 1,,2,, all = 12   (,12=0)
# 5.  check for negative numbers
# 6.  if x is a negative number in the form 999- "make" it a recognized
#     number like -999 - if x is a negative number like -999 already
#     the test fails (y is not >1) and this "true" negative is not made
#     positive
# 7.  accumulate the total
# 8.  if x is a negative number in the form (999) "make it a recognized
#     number like -999
# * Note that a (-9) (neg neg number) returns a postive
# * Mite not work rite with all forms of all numbers using $-,+. etc. *

Eu gosto de usar ....

echo "
1
2
3 " | sed -e 's,$, + p,g' | dc 

eles mostrarão a soma de cada linha ...

aplicando sobre esta situação:

ls -ld $(< file.txt) | awk '{print $5}' | sed -e 's,$, + p,g' | dc 

Total é o último valor ...

cat files.txt | awk '{ total += $1} END {print total}'

Você pode usar o awk para fazer o mesmo, até pula os não inteiros

$ cat files.txt
1
2.3
3.4
ew
1

$ cat files.txt | awk '{ total += $1} END {print total}'
7.7

ou você pode usar o comando ls e calcular a saída legível por humanos

$ ls -l | awk '{ sum += $5} END  {hum[1024^3]="Gb"; hum[1024^2]="Mb"; hum[1024]="Kb"; for (x=1024^3; x>=1024; x/=1024) { if (sum>=x) { printf "%.2f %s\n",sum/x,hum[x]; break; } } if (sum<1024) print "1kb"; }'
15.69 Mb

$ ls -l *.txt | awk '{ sum += $5} END  {hum[1024^3]="Gb"; hum[1024^2]="Mb"; hum[1024]="Kb"; for (x=1024^3; x>=1024; x/=1024) { if (sum>=x) { printf "%.2f %s\n",sum/x,hum[x]; break; } } if (sum<1024) print "1kb"; }'
2.10 Mb

Na minha opinião, a solução mais simples para isso é o comando unex "expr":

s=0; 
for i in `cat files.txt | xargs ls -l | cut -c 23-30`
do
   s=`expr $s + $i`
done
echo $s

Pure bash

total=0; for i in $(cat files.txt | xargs ls -l | cut -c 23-30); do 
total=$(( $total + $i )); done; echo $total

sizes=( $(cat files.txt | xargs ls -l | cut -c 23-30) )
total=$(( $(IFS="+"; echo "${sizes[*]}") ))

Ou você pode somar ao ler os tamanhos

declare -i total=0
while read x; total+=x; done < <( cat files.txt | xargs ls -l | cut -c 23-30 )

Se você não se importa com tamanhos e blocos de mordida, tudo bem.

declare -i total=0
while read s junk; total+=s; done < <( cat files.txt | xargs ls -s )

Se você possui R, pode usar:

> ... | Rscript -e 'print(sum(scan("stdin")));'
Read 4 items
[1] 2232320

Como me sinto confortável com o R, na verdade tenho vários aliases para coisas assim, para que eu possa usá-los bashsem precisar me lembrar dessa sintaxe. Por exemplo:

alias Rsum=$'Rscript -e \'print(sum(scan("stdin")));\''

o que eu vou fazer

> ... | Rsum
Read 4 items
[1] 2232320

Inspiração: Existe uma maneira de obter o mínimo, o máximo, a mediana e a média de uma lista de números em um único comando?