Esta questão realmente merece alguma atenção. O WordFence parece um dos plugins mais populares de segurança atualmente. Comparado com a segurança do iThemes, é como 2.6: 3.2 onde o iThemes Security (antigo Better WP Security) venceu. Claro que estes eram milhares de 5 estrelas.
O autor do WordFence escreveu esta seção:
Meu site WordPress está protegido por um firewall. Isso não torna seguro?
Se o seu site estiver acessível a partir da Web, significa que pessoas que você não conhece podem executar o código PHP no seu site. Eles precisam ser capazes de executar o código PHP, como o código principal do WordPress, para que seu site funcione.
Que absurdo até agora. Não vou parafrasear muito mais, você pode conferir no https://wordpress.org/plugins/wordfence/faq/
O importante é que o WordFence funcione como um firewall no nível do aplicativo. Similar como arquivos .htaccess funciona para o Apache.
O que o WordFence faz como um firewall? Ele registra informações de solicitações no seu banco de dados. Tão melhor que você tenha disco SSD em sua hospedagem, se precisar de um site rápido.
Fail2ban funciona no nível da rede. No Python, ele se comunica com iptables e soquetes TCP e pode trabalhar com arquivos error.log, auth.log e access.log - o que você definir na configuração.
http://www.fail2ban.org/wiki/index.php/Main_Page
Tudo o que você precisa configurar para fail2ban são cadeias
https://snippets.aktagon.com/snippets/554-how-to-secure-an-nginx-server-with-fail2ban
Aqui você terá uma visão geral do que fazer. Mas a questão é quem mais usa isso?
Fail2ban não pode proteger bem nem mesmo a página deles (desde que você esteja no link superior). A limitação é que não pode funcionar bem com endereços IPv6.
Então eu acho que você deve considerar outro firewall. Essa pode ser uma boa pergunta para outra hora.
Espero que isto ajude.