Respostas:
Como os bancos de dados XML são hierárquicos, você pode olhar para eles. Recentemente usei o BaseX e gostei muito.
Qualquer implementação LDAP será hierárquica ou, pelo menos, exposta como tal, mesmo que o back-end seja outra coisa.
(Provavelmente existem outros, e até o Open Directory da Apple, mas não sei se esse possui uma página de projeto dedicada)
Encontrei caxumba e sua licença GPL. * O Mumps (também conhecido como M) é uma linguagem de programação de uso geral que suporta um recurso de banco de dados hierárquico (ou multidimensional) exclusivo * http://cs.uni.edu/~okane/mumps.html
Atualizar
Links importantes.
O MongoDB é um banco de dados orientado a documentos que armazena JSON binário . É um banco de dados de código aberto com suporte corporativo real .
Em termos hierárquicos, ele armazena "documentos" em vez de "registros" em "coleções" em vez de "tabelas". Usando JSON, é fácil criar objetos que representam dados hierárquicos. Ele também suporta indexação e consulta "nesses" documentos.
Se você está pensando em bancos de dados XML, o JSON deve ser competitivo.
Não é de código aberto, mas o Microsoft SQL 2008 Management Studio Express é gratuito e permite tipos de dados XML a partir do SQL Server 2005. Se você não estiver familiarizado com o uso do tipo de dados XML para armazenar hierarquias, estou lendo um livro de Michael Coles chamado Pro XML do SQL Server 2008 que introduz o uso de XML no SQL.
http://www.microsoft.com/downloads/en/details.aspx?FamilyID=08e52ac2-1d62-45f6-9a4a-4b76a8564a2b