Não conheço nenhuma ferramenta que faça isso "fora da caixa". Eu escrevi um script para fazer algo assim com logons do OpenSSH com falha no Windows, mas não posso compartilhá-lo com você porque "pertence" ao Cliente para quem o escrevi.
Dito isto, era um programa VBScript simples que tinha um coletor de log de eventos para observar novos logons com falha e, se o suficiente acontecesse em uma janela de tempo, adicione uma rota IP (usando o comando "route") para direcionar o tráfego para o ofensor Endereço IP para um "MS Loopback Adapter" no sistema.
Para outros tipos de logs, seria uma questão bastante trivial escrever. Como eu não tinha tabelas de IP no Windows, o adaptador de loopback parecia a próxima melhor coisa. (Você não pode fazer uma "rota xxxx mask 255.255.255.255 127.0.0.1" no Windows - você precisa de um adaptador para rotear o tráfego, porque o loopback 127.0.0.1 não é uma interface "real" no Windows).)
(Se você quiser algo como esse escrito, entre em contato comigo fora da banda e poderemos discutir as especificidades de tal acordo.)
Editar: