Comecei a construir um quad há quase 6 meses, tive muitos problemas com a determinação correta do ângulo :)
Antes de tudo, você deve tentar esta apresentação - http://web.mit.edu/scolton/www/filter.pdf
É realmente abrangente e pode ajudá-lo a ter uma idéia melhor do que realmente deseja, e praticamente fez o truque para mim.
Eu acho que depende muito de você, mas a implementação do filtro Kalman não requer apenas um conhecimento bastante sólido em matemática, teoria dos sistemas e, neste caso, física, mas também é muito exigente em relação à carga da CPU. Caso você tenha em mente usar, digamos que um Atmega328 com clock de 16Mhz, você pode ter problemas ao usar esse tipo de filtro. É realmente eficaz se você estiver usando um DSP, para que você possa filtrar com baixa passagem sua entrada de acesso.
Em suma, meu conselho é: tente usar o filtro complementar de primeira ordem ou talvez até o filtro complementar de segunda ordem, caso você não esteja satisfeito com os resultados. Se o seu sistema estiver livre de vibrações de alta frequência, isso deve funcionar muito bem. Além disso, o link de JustJeff é o lugar perfeito para começar, caso você fique com a implementação :)
Tudo de bom, Dan