Como compactar e limpar logs com rotação de log, mas não rotacioná-los

Eu tenho um servidor Tomcat que cria logs de acesso por meio de uma válvula ( org.apache.catalina.valves.FastCommonAccessLogValve ). Essa válvula cuida de girar o arquivo de log de acesso, mas não de compactá-los ou excluí-los depois de algum tempo.

No momento, tenho um trabalho cron que usa find [...] -mtime +30 [...]para compactar e excluir os logs. Prefiro usar logrotate, para que a rotação do log esteja em um local centralizado para todos os logs. Eu não gosto de ter uma solução separada apenas para o Tomcat.

Tentei ler a documentação do logrotate, mas ainda estou um pouco perdido. Posso usar o logrotate apenas para compactar e limpar arquivos de log? Como eu faria isso ?

Ou resolvendo o problema, existe uma válvula de log de acesso ao Tomcat que comprimirá e limpará os arquivos de log?

Obrigado pela ajuda!

Bastante simples que eu já vi funciona assim.

Crie um arquivo no /etc/logrotate.d chamado tomcat contendo o seguinte: -

/var/log/tomcat/catalina.out { 
  copytruncate 
  daily 
  rotate 7 
  compress 
  missingok 
}

Isso é executado diariamente , compacta o arquivo e mantém 7 dias no valor ( gire 7 ). copytruncate significa que copiará e truncará o arquivo original para que não seja necessário reiniciar o tomcat. faltando ok não irá errar se não estiver lá.

A válvula access.log pode ser alterada para não girar adicionando rotatable = false: -

<Valve className="org.apache.catalina.valves.AccessLogValve
     ...
     ...
     suffix="log" rotatable="false" />

Script do TimP modificado - Adicionado exclusão de arquivos muito antigos, verificação adicional de arquivos compactados antigos.

#!/bin/bash
#
# TPP 2013-02-21
# RJK 2014-08-14
#
# Tomcat apps use a variety of loggers, mostly log4j.
# These rotate, conflicting with logrotate, the unix log rotation system.
#
# Some files eg catalina.out
# are rotated to a backup containing a date eg catalina.2013-01-06.log
# which can then be compressed with bz2 to catalina.2013-01-06.log.bz2
# or removed if older than a given number of days(MTIME).
#
cd /var/log/tomcat6
# 2013-02-21
DATE=`date --rfc-3339=date`
YEAR=`date +%Y`
MILLENIUM=20
# 2014-08-14
MTIME=14
# 2014-08-14
#for f in $(find catalina* |grep -v bz2 |grep -v '$DATE' |grep $YEAR)
for f in $(find catalina* |grep -v bz2 |grep -v '$DATE' |grep $MILLENIUM)
do
 # 2014-08-14
 if test `find $f -mtime +$MTIME`
 then
   echo "rm -f $f"
   rm -f $f
 else
   echo "bzip2 $f"
   bzip2 $f
 fi
done
# However others are active whilst containing a date
# so we will find all and not compress the most recent
for l in 'localhost*' 'opt-db*' 'opt*' 'host-manager*' 'manager*'
do
 export previous=
 for f in $(find $l |grep -v bz2 |sort)
 do
  if [ "${previous}" != "" ]
  then
    echo "bzip2 ${previous}"
    bzip2 $previous
  fi
  export previous=$f
 done
done
# 2014-08-14
for f in $(find *bz2)
do
 if test `find $f -mtime +$MTIME`
 then
   echo "rm -f $f"
   rm -f $f
 fi
done
exit 0 

Eu não queria mudar a configuração do Tomcat, então criei um script que comprimiria os arquivos rotacionados

#! / bin / bash
#
# TPP 2013-02-21
#
# Os aplicativos Tomcat usam uma variedade de registradores, principalmente o log4j.
# Eles rodam, conflitando com o logrotate, o sistema de rotação de log unix. 
#
# Alguns arquivos, por exemplo, catalina.out
# são rotacionados para um backup contendo uma data, por exemplo, catalina.2013-01-06.log
# que pode ser compactado com o bz2 em catalina.2013-01-06.log.bz2
#

cd / var / log / tomcat6

# 2013-02-21
DATA = `data - rfc-3339 = data`
ANO = `data +% Y`

para f em $ (encontre catalina * | grep -v bz2 | grep -v '$ DATE' | grep $ YEAR)
Faz
 eco "bzip2 $ f" 
 bzip2 $ f
feito

# No entanto, outros estão ativos enquanto contêm uma data
# então encontraremos tudo e não compactaremos os mais recentes
para l em 'localhost *' 'opt-db *' 'opt *' 'host-manager *' 'manager *'
Faz
 exportar anterior =
 para f em $ (encontre $ l | grep -v bz2 | classifique)
 Faz
  se ["$ {previous}"! = ""]
  então
    eco "bzip2 $ {previous}" 
    bzip2 $ anterior
  fi
  exportar anterior = $ f
 feito
feito

saída 0

É surpreendentemente simples. Apenas diga ao logrotate quais arquivos você deseja especificamente girar. nocreatediz ao logrotate para não recriar um arquivo vazio depois de mover o antigo (se você estiver girando arquivos em uma subpasta).

/var/log/tomcat/catalina.out.* { 
  daily 
  nocreate
  compress 
  missingok 
}

Para a compressão local_access_log.YYYY-MM-DD.txt, escrevi este script depois de ver este post: -

#!/bin/bash
#
# If Tomcat uses server.xml config to rotate localhost_access_log,
# the daily rotated logs will need compressing and old ones deleted to stop filling
# the log partiton. Cannot use the system logrotate command as conficts with tomcat rotate
# therefore run this script in a daily cronjob
#
# localhost_access_log.2015-09-03.txt
#
# Add this script in /etc/cron.daily/ owned by root
#

CATALINA_BASE=`ps aux | grep catalina.base | awk -F'catalina.base\=' '{print $2}' | awk '{print $1}'`

if [ ! $CATALINA_BASE ]
then
    if [ -r /var/lib/tomcat8 ]
    then
        CATALINA_BASE=/var/lib/tomcat8
    else
        echo "Error: cannot find CATALINA_BASE"
        exit 1
    fi
fi

cd ${CATALINA_BASE}/logs

if [ $? -ne 0 ]
then
    echo "Error, cannot cd to logs directory, quitting...."
    exit 1
fi

# today's date (not to be gzipped)
DATE=`date --rfc-3339=date`
# number of days to keep
MTIME=28

# Compress all previous days uncompressed logs
for log in `ls localhost_access_log* | grep -v bz2 | grep -v $DATE`
do
    bzip2 $log
done

# delete old logs
find . -name "*.bz2" -mtime +$MTIME -exec rm {} \;

exit 0

Uma solução simples fornecida aqui. Isso também inclui a opção de upload s3.

https://yottabrain.org/tomcat/tomcat-log-backup/