Um aplicativo de serviço inclui um host de site já configurado para você. Uma biblioteca de serviço é uma biblioteca de serviços que um host pode fazer referência e inicializar.
Se você começar com uma biblioteca de serviço (recomendado), poderá escolher qualquer host que desejar (um serviço do Windows, IIS / ASP.NET ou mesmo um aplicativo de console) e apenas referenciar sua biblioteca a partir de seu novo host. A escolha de um aplicativo de serviço limita seu host apenas a IIS / ASP.NET (embora isso possa ser adequado para seus propósitos, mas limitará os protocolos que você pode usar).
Editar : as alterações no IIS desde que escrevi isso permitem uma ampla variedade de protocolos em serviços ativados pelo ASP.NET, portanto, escolher um aplicativo de serviço é muito menos limitante do que antes.