Tanto o software quanto o hardware têm algo a dizer. Eu tenho a comparação da Intel e da TP-Link NIC (que usa um chip Realtek no coração) em hardware de servidor genérico, bem como em softwares de propósito genérico e de propósito genérico no roteamento.
No lado do hardware, se o ASIC a bordo puder manipular o tráfego IP, a carga do processador poderá ser menor e, portanto, mais rápida. Notei os dois chips INtel NIC internos se comunicando diretamente pelo DMA, ignorando a CPU principal no processamento do encaminhamento de pacotes; enquanto isso, o chip Realtek interrompe sempre que um pacote chega.
No lado do software, se o software for projetado para ser usado no roteamento, poderá ser mais eficiente. Eu usei o pfSense + PF (um FreeBSD modificado destinado a ser usado como roteador) e o Ubuntu 12.04 + iptables de uso genérico como software de roteamento e o primeiro muda claramente o tráfego muito mais rápido. (O Ubuntu 14.04 agora é quase tão rápido, graças aos novos nftables no kernel do Linux 3.13.)
No entanto, o roteador dedicado tem uma grande desvantagem: ele não pode executar muito além de mudar o tráfego e não pode ser virtualizado. Meu roteador de borda atual é uma máquina virtual dentro do meu cluster ESXi executando o Ubuntu 14.04 e também atua como um sistema de detecção de intrusões e balanceador de carga.