Em qual diretório devo instalar programas no Linux?

Uso o Linux por 2 anos no meu trabalho e ainda estou confuso sobre onde meus programas instalados devem permanecer. Agora eu uso, /opt/<program>por exemplo, instalei o vim73 a partir de fontes lá (razão para não usar o gerenciador de pacotes, não há versão 7.3 VIMnas minhas fontes, por exemplo, /etc/apt/sources.listna minha Ubuntu).

Mas todos os meus programas que instalei de fontes anteriormente estão espalhados entre FS em todos os lugares, como o PHP 5.3.6, permanecem no /opt/local/php53apache /etc/, no vlc /etc/mutimediaetc.

Existe alguma convenção que eu possa seguir?

Absolutamente. É chamado de padrão de hierarquia do sistema de arquivos .