Uma abordagem alternativa é instalar os pacotes debian (embora essa abordagem não esteja relacionada ao ppa)
https://gist.github.com/stefansundin/0fd6e9de172041817d0b8a75f1ede677
Lembre-se de que, fazendo isso fora do apt, o gerenciamento futuro da instalação fica desarrumado. Para ver o que isso afetaria, você pode executar
apt-cache rdepends openssh-client
e depois avançando ao instalar um desses pacotes afetados, você provavelmente verá um erro sobre a falta da versão original do openssh-client. Pelo menos esse é o comportamento que observei durante a gravação de alguns scripts ansible (Inicialmente, atualizei o openssh-client pela última vez nos scripts para contornar isso)
Na saída de erro nesse cenário, notei que a saída sugerida para
apt-get -f install
sem especificar um pacote. Eu fiz isso, ele instalou alguns bits (o que aparentemente não estava relacionado ao openssh-client) e, de alguma forma, as instalações futuras que dependem do openssh-client agora passam bem sem reclamar da dependência da versão fixa.