A maioria dos programas de terminal - incluindo konsole, putty e xterm - emula o antigo terminal VT100. Esse terminal permite definir certas coisas, incluindo negrito, cores, definir o título do terminal etc., usando seqüências de caracteres especiais chamadas seqüências de escape.
O shell bash possui uma variável chamada PROMPT_COMMAND que, se configurada, é avaliada antes de cada prompt impresso (eu acredito que o zsh tem algo parecido, na verdade acho que o bash tirou o código deles). Você pode produzir seqüências de escape em PROMPT_COMMAND e ele definirá sua barra de título.
Isto é o que eu tenho no meu (Linux / bash):
USER=$(/usr/bin/id -un)
HOSTNAME=$(uname -n)
HOSTNAME=${HOSTNAME%%.*}
PROMPT_COMMAND='echo -ne "\e]0;$USER@${HOSTNAME}: $(pwd -P)\a"'
Você pode colocar isso no seu ~ / .bashrc
Existem muitas personalizações que você pode fazer com o seu terminal. Eu gosto de negrito no meu prompt, para facilitar a visualização do final do meu prompt. Isso torna o amarelo arrojado, bom contra o meu fundo preto padrão:
PS1="\[\e[33;1m\]\h:\$\[\e[0m\] "
Olhe em volta para Personalização de Prompt do Linux, você encontrará mais HowTos do que saberá o que fazer. Escolha o que você achar mais fácil de ler.