Eu fiz uma pergunta um pouco semelhante, mas apenas sobre a Terra. Aqui e na minha pergunta, há alguns links nos quais você pode estar interessado. Pensa-se que Júpiter, por exemplo, se aproximou do sol durante o bombardeio pesado e depois voltou para o exterior. Então, eu suspeito que através do buraco de minhoca não entendi exatamente esse ponto. Observações da sonda Kepler na busca por exoplanetas sugerem que vários planetas em outros sistemas solares se aproximaram de seus sóis ao longo do tempo.
Em geral, há algumas partes nessa questão.
No sol perdendo massa:
Sim, é, mas apenas um pouco. Veja aqui . Suas matemáticas não estão completas, pois não consideram as ejeções de massa coronal ou levam em consideração o aumento esperado da luminosidade do sol, mas a essência de seu argumento permanece verdadeira. O sol está perdendo apenas uma pequena porcentagem de sua massa. O efeito nas órbitas planetárias é bem pequeno.
A luz solar também cria uma pressão contra os planetas, mas esse efeito não se deve muito à massa relativamente grande dos planetas em comparação ao material de ejeção de luz e massa coronal que atinge o planeta.
Marés
Os efeitos das marés podem funcionar de qualquer maneira, dependendo da taxa de rotação comparada à rotação orbital do planeta. Se a estrela girar à frente do planeta, a força da maré deve empurrar o planeta lentamente para fora, como a Terra está fazendo na Lua. Se o planeta se move em torno da estrela mais rapidamente do que a estrela gira, o efeito da maré é revertido e lentamente puxa o planeta. Na taxa atual de rotação do nosso Sol, ele está se movendo à frente de todos os planetas, então deve haver uma pequena força de maré que empurra os planetas para fora, mas muito, muito lentamente.
Detritos orbitais e perda efetiva de momento angular durante a formação do planeta.
Se a órbita estiver cheia de poeira e cometas, asteróides e outros, o sol pode ganhar massa mais rapidamente do que a perde e os planetas podem desacelerar efetivamente enquanto se movem através da poeira ou detritos orbitais com órbitas mais oblíquas. Essa pode ser a explicação para Júpiteres quentes e muitos planetas observados muito próximos de seus sóis em outros sistemas solares.
Os planetas podem se afetar.
Veja aqui e uma curiosa possibilidade aqui . Os efeitos planeta a planeta são pequenos, a menos que estejam em ressonância, onde o efeito pode ser amplificado e se tornar significativo ao longo do tempo.
Espero que esteja claro o suficiente. Posso arrumar e fornecer links adicionais para referência, se necessário.