Você não pode executar o Firefox sem todas as bibliotecas Gtk necessárias, mas isso é facilmente resolvido com a instalação das bibliotecas. Normalmente você instalaria o Firefox através de um sistema de gerenciamento de pacotes e isso atrairia todas as bibliotecas necessárias.
Para executar o Firefox normalmente, você precisa de um servidor X (essa é a parte que exibe as janelas e seu conteúdo, em oposição a coisas como Gtk, que são bibliotecas que o aplicativo usa para criar o conteúdo). Isso é algo que você normalmente não executaria em um servidor. Existem poucas coisas que você pode fazer no Firefox sem um servidor X, não sei se o Selenium é uma delas.
Para executar o Firefox no seu servidor, execute um servidor X "virtual". A um simples é Xvfb ( v irtual f rame b pode ser prejudicado X servidor). Está na distribuição do servidor X.org . Uso da amostra:
Xvfb :19 -screen 0 1024x768x16 &
export DISPLAY=:19
firefox &