Como o @MartinSmith disse, se você atualizar para o SQL 2008, um índice filtrado seria a solução perfeita. No entanto, nesse meio tempo, como um caso geral, QUALQUER índice adicionado aumentará o tempo de carregamento. Índices pequenos menos que os grandes.
Uma coisa que eu observaria é se você tem um índice existente que pode ser modificado. Supondo que suas consultas existentes estejam usando um determinado índice, a adição da coluna de bits ao final desse índice deve ter um efeito mínimo nas inserções e o efeito positivo que você procura nas suas consultas.
A próxima coisa a considerar é "Já tenho muitos índices?" Não existe uma regra rígida e rápida sobre o que é "muito", mas eu costumo seguir uma regra de 10 índices, a menos que eu realmente precise de um novo.
Por último, teste-o em uma instância de teste. Configure uma tabela com alguns milhões de linhas, execute sua carga nela, adicione seu índice, execute sua carga novamente e veja se você percebe um aumento significativo no tempo de carregamento.
Somente você pode realmente decidir o que é "significativo". Eu tenho máquinas em que adicionar 5 minutos ao tempo de carregamento é "significativo" e outras em que pude ver com segurança um aumento de duas horas.
EDITAR:
Outra opção é particionar sua tabela. Pode ser necessário usar uma exibição particionada se você não estiver usando a edição Enterprise, mas mesmo assim deve ajudar. Você coloca seu bit 0s em uma partição e seu bit 1s em outra. Supondo que você esteja inserindo apenas uma versão ou outra, você poderá até acelerar suas inserções.