Não há respostas realmente fáceis para isso. Vai depender de coisas como quanta memória seu sistema tem, quais são os aplicativos, quão bem eles são escritos etc.
Por exemplo, se você tiver uma pequena quantidade de memória e a verificação do Activity Monitor mostrar pouca memória disponível ou muito espaço de troca sendo usado. Então você provavelmente deseja garantir que os aplicativos sejam encerrados para disponibilizar mais memória. Além disso, é confuso o fato de que, apesar de você sair de um aplicativo, o OS X não o remove da memória até precisar de espaço para outra coisa. É por isso que sair e reabrir um aplicativo é mais rápido do que a primeira vez que você o iniciou. Se o aplicativo ainda estiver na memória, o OS X precisará iniciá-lo novamente. Obviamente, em uma situação de pouca memória, o OS X remove automaticamente aplicativos da memória que foram encerrados para que a memória possa estar disponível para outra coisa.
Os aplicativos para os quais você fechou todas as janelas, mas não saiu, podem afetar o sistema. Depende do que eles fazem. Assim, memória, CPU, bateria podem ser consumidos. Novamente, o Activity Monitor é seu amigo para determinar se algum dos seus aplicativos está causando problemas.
De um modo geral, se você tem memória suficiente e seus aplicativos são bem comportados em termos de sugar a bateria, se você encerra ou fecha não importa. Felizmente, os aplicativos OS X geralmente são bem comportados.