Com o Ubuntu 14.10 e o Gstreamer, alcanço uma latência de 100 a 116 ms com 1280 x 720 a 60Hz.
Tanques para @Antonvh, que me coloca no caminho certo. Eu reproduzo aqui a solução para referência posterior.
Para transmitir a partir do Pi:
raspivid -t 0 -b 2000000 -fps 60 -w 1280 -h 720 -o - \
| gst-launch-1.0 -e -vvv fdsrc ! h264parse ! rtph264pay pt=96 config-interval=5 \
! udpsink host=10.42.0.1 port=5001
Para recebê-lo em seu computador com gst-0.10 e enviá-lo para um dispositivo virtual v4l2 (na verdade você precisa do v4l2loopback ):
gst-launch -v udpsrc port=5001 ! application/x-rtp, payload=96 ! rtph264depay \
! ffdec_h264 ! ffmpegcolorspace ! v4l2sink device=/dev/video1
Em seguida, você pode abrir o dispositivo /dev/video1
em qualquer software que suporte a captura v4l2.
Para uma solução gst-1.0 (v4l2loopback não funciona com gst-1.0), deixo você ver a postagem do blog Antonvh .