Para dar uma resposta breve e simplificada: para um back-end RESTful, no momento, você deve usar o Backbone.
Para dar uma resposta mais complexa: realmente depende do que você está fazendo. Como já foi dito, o Ember foi projetado para coisas diferentes e atrairá um grupo diferente de pessoas. Minha resposta curta é baseada na sua inclusão do requisito RESTful.
No momento, o Ember-Data (que parece ser o mecanismo de persistência padrão do Ember) está longe de estar pronto para produção. O que isso significa é que ele tem alguns bugs e, fundamentalmente, não suporta URIs aninhados (/ posts / 2 / comments / 4556 por exemplo). Se REST for o seu requisito, você terá que contornar isso por enquanto se escolher o Ember (ou seja, você terá que hackear, esperar, implementar algo como Ember-Data do zero por conta própria, ou não usar -very-RESTful URIs). O Ember-Data não faz parte estritamente do Ember, então isso é totalmente possível.
As principais diferenças entre os dois, além do tamanho, são basicamente:
O Ember tenta fazer o máximo possível por você, para que você não precise escrever tanto código. É muito hierárquico e, se seu aplicativo também for muito hierárquico, provavelmente será um bom ajuste. Como ele faz muito por você, pode ser difícil descobrir de onde vêm os bugs e raciocinar por que um comportamento inesperado está acontecendo (há muita "mágica"). Se você tiver um aplicativo que se encaixa naturalmente no tipo de aplicativo que Ember espera que você crie, isso provavelmente não será um problema.
O Backbone tenta fazer o mínimo possível para que você possa raciocinar sobre o que está acontecendo e construir uma arquitetura que se ajuste ao seu aplicativo (em vez de construir um aplicativo que se ajuste à arquitetura da estrutura que você está usando). É muito mais fácil começar, mas, a menos que você tome cuidado, pode acabar com uma bagunça muito rapidamente. Ele não faz coisas como propriedades computadas, eventos de desassociação automática, etc e deixa-os por sua conta, então você precisará implementar muitas coisas você mesmo (ou pelo menos escolher bibliotecas que façam isso para você), embora isso seja antes, todo o ponto.
Atualização : parece que, recentemente, o Ember agora oferece suporte a URIs aninhados, então suponho que a questão se resume a quanta magia você gosta e se o Ember é um bom ajuste, arquiteturalmente, para seu aplicativo.