Dê uma olhada nesta pergunta semelhante no superusuário. Algo como
"xdotool key Home"
End + Up
no .xbindkeysrcarquivo deve ser suficiente.
Se você realmente deseja tentar usar o xmodmap, o começo seria mapear a Endchave ou a Upchave para uma chave modificadora. Xmodmap. Por exemplo, você pode pegar suas duas chaves com xeve mapear a Endchave mode_switchcom
keycode NN("End" keycode) = mode_switch
e depois mapeie a parte mode_switch de UpparaHome
keycode NN("Up" keycode) = Up NoSymbol Home
Mas não tenho certeza sobre essa parte, você terá que experimentar. Definitivamente, o que funcionará é permitir que o ambiente da área de trabalho faça o trabalho (dconf etc.).
Outra pista pode ser encontrada aqui .