Para o TCP (embora a mesma abordagem funcione para o SCTP 1 ou qualquer protocolo de transporte orientado a conexão), o mesmo que para procurar os que estão escutando:
lsof -nPi tcp:the-port
Relatará os processos que têm um soquete TCP aberto nessa porta. Se você conhece a porta de origem (o aplicativo do servidor pode conhecê-la e registrá-la), use-a para identificar o cliente não autorizado.
Para soquetes UDP ou RAW, seria mais complicado, embora eu suponha que é onde algo como systemtap ou dtrace pode ser útil. Possivelmente auditado também.
1 Embora o suporte a SCTP (apenas no Linux) tenha sido incluído lsofna versão 4.86, você não pode usar -ipara solicitar soquetes SCTP explicitamente. Aqui, você pode usar lsof -nP | grep -w 'SCTP.*:the-port'como heurística.