A entropia total realmente aumenta, à medida que a nuvem molecular diminui sob a gravidade.
Pode parecer que, à medida que as moléculas se aproximam, elas são mais ordenadas, o que significa menos entropia. No entanto, essa é apenas uma parte do processo. A segunda parte (importante) é: quando as moléculas estão mais próximas, elas também têm maior energia cinética (uma vez que desciam em menor potencial gravitacional). Portanto, o gás está ficando mais quente à medida que diminui.
O aumento da temperatura do gás está aumentando sua entropia, porque as moléculas ocupam mais espaço de momento. Esse aumento na entropia via temperatura é maior do que a diminuição na entropia através do próprio encolhimento.
Mais tarde, o gás condensado quente (ou planeta quente) irradia o calor para o espaço e esfria. Você acaba com um planeta frio que na verdade tem uma entropia menor que a nuvem de gás original, porque não está mais quente. Mas o aumento da entropia foi levado pelos fótons irradiados. Então, na total - a entropia do universo aumentou (os fótons irradiados estão lá fora em algum lugar).
Você pode encontrar uma discussão mais detalhada sobre esse tópico na excelente página da Web de John Baez ou aqui .