Isso realmente depende da rede, mas eu me inclinaria para a VLAN L2. Embora alguns tenham expressado preocupações sobre um loop na VLAN, mas em 12 anos em grandes redes, eu nunca vi um loop criado em uma VLAN de gerenciamento de rede.
Para não dizer que isso não poderia acontecer, mas geralmente as pessoas que sabem o suficiente para configurar uma VLAN de gerenciamento geralmente sabem o suficiente para não causar loops na rede. A maioria dos loops que encontrei estão em VLANs de usuários em que um usuário final conectou / configurou algo incorretamente ou quando um administrador de servidor configurou incorretamente a agregação / redundância de links no servidor ou configurou incorretamente um ambiente de VM.
Mudar para uma abordagem L3 evita esse problema específico, mas também é fácil confundir uma rede roteada. Sim, você pode tomar precauções, mas eu fico com o KISS quando posso e o roteamento é mais complexo do que mudar. Vamos começar a listar os principais incidentes que ocorreram devido à introdução de problemas de roteamento na Internet?
Por fim, como John Jensen apontou, você definitivamente deveria ter um sistema de gerenciamento OOB também; no entanto, eu geralmente me referiria a isso como um backup do gerenciamento em banda. De um modo geral, não recomendo alterar as configurações de velocidade em uma porta do console (quando se trata de situações de recuperação, ter que descobrir se uma porta do console é padrão, alterada ou alterada incorretamente pode ser uma dor) e, mesmo em 115k baud, console as portas podem ser muito lentas (e muitos fornecedores adotam o padrão de 9600 baud).