O que Svetlin Tonchev sugeriu só funcionaria se o OP estivesse usando o Ubuntu, o que não é o caso aqui. No entanto, ao executar o add-apt-repository, a fonte adicionada dependerá do nome do seu sistema operacional. Por exemplo, se você for para /etc/apt/sources.list.d/, poderá encontrar um arquivo chamado git-core-ppa-jessie.list (ou similar) contendo as seguintes linhas:
deb http://ppa.launchpad.net/git-core/ppa/ubuntu jessie main
deb-src http://ppa.launchpad.net/git-core/ppa/ubuntu jessie main
No entanto, esse repositório não existe e é por isso que o OP obteve um 404.
Uma possível solução para esse problema específico seria editar manualmente o arquivo acima e substituir jessie por xenial.