Em geral, melhor registro de depuração. Descubra o que você quer saber, adicione-o ao código e coloque-o nos logs para que você possa trabalhar com isso. Capturar mais detalhes do ambiente na época também ajuda - qual solicitação, quando, etc.
Especificamente, eu procuraria um padrão comum nos clientes que atingissem esse objetivo - e se você encontrasse um otimizado -, mas capturaria o tráfego da camada TCP.
Observar as mensagens SSL trocadas deve ter uma idéia do que está errado no protocolo ou, pelo menos, quais são as propriedades comuns da solicitação. Depois de ter isso, deve estar mais perto de ser depurado.
Como guia, eu acho que isso vem de uma das três coisas:
- Algo que não é SSL falou com a porta SSL. (as verificações de porta são comuns, mas também ocorre HTTP para a porta HTTPS.)
- O cliente não compartilha um conjunto aceitável de cifras com o servidor.
- O cliente oferece um certificado e o servidor tem um chiado. (Incomum, mas possível.)