Provavelmente você não deveria :-)
A segunda resposta mais óbvia é que você deve usá-lo se seus dados não forem relacionais. Isso geralmente se manifesta por não ter uma maneira fácil de descrever seus dados como um conjunto de colunas. Um bom exemplo é um banco de dados em que você realmente armazena documentos em papel, por exemplo, digitalizando o correio do escritório. Os dados são o PDF digitalizado e você tem alguns metadados que sempre existem (digitalizados em, digitalizados por, tipo de documento) e vários campos de metadados possíveis que existem em algum momento (número do cliente, número do fornecedor, número do pedido, manter em arquivo até, Texto completo com OCR, etc). Normalmente, você não sabe com antecedência quais campos de metadados você adicionará nos próximos dois anos. Coisas como o CouchDB funcionam muito melhor para esse tipo de dados do que os bancos de dados relacionais.
Pessoalmente, também adoro o fato de não precisar de nenhuma biblioteca de clientes para o CouchDB, exceto um cliente HTTP, que atualmente está incluído em quase todas as linguagens de programação.
A resposta provavelmente menos óbvia: se você não sentir dor usando um RDBMS, continue com ele. Se você sempre precisa contornar o RDBMS para fazer seu trabalho, vale a pena dar uma olhada em um banco de dados orientado a documentos.
Para uma lista mais elaborada, verifique esta postagem de Richard Jones .