Não é muito popular, na minha experiência. Existem alguns problemas. Primeiro, Java não é a linguagem mais eficiente (mas melhor do que muitos pensam), mas essa falta de eficiência não é realmente compensada pela facilidade de desenvolvimento. Segundo, executar o Java é meio difícil - ele melhorou recentemente, mas ainda está contaminado pelas lendárias dores de crescimento do Java. Terceiro, o Java não teve um suporte gráfico particularmente bom no navegador e, se você estiver fora do navegador, poderá usar outra coisa.
Não é realmente uma questão de Java ser ruim. É uma questão de Java não ser particularmente bom para nenhum nicho relacionado a jogos e outras linguagens serem realmente boas. A linguagem que faz tudo de forma medíocre perde para as línguas que fazem algo bem.
Há uma lista de famosos jogos Java neste site, mas, bem, você pode ver como é popular.