Tudo depende de como o usuário original instalou o pacote. Se eles usaram o gerenciamento de pacotes embutido do sistema operacional, deve ser tão fácil quanto a linha yum na resposta de Dave ou em um sistema baseado no Debian (incluindo Ubuntu), você pode usar:
apt-get remove mysql-server
(Além disso, use a limpeza em vez de remover, se você também deseja remover arquivos de configuração personalizados)
Se você não souber o nome exato do pacote para remover no Ubuntu:
dpkg -l|grep mysql
Se o usuário em questão não usou uma ferramenta de gerenciamento de pacotes, a única solução real é simplesmente garantir que o servidor não seja carregado na inicialização (chkconfig ou update-rc.d são duas ferramentas úteis para isso - verifique seu manual páginas) e remova manualmente todos os arquivos instalados.