Respostas:
As especificações da Apple mostram que o Mac Mini, no final de 2014 (que ainda está sendo vendido hoje, outubro de 2015), pode suportar até dois monitores usando suas portas HDMI e Thunderbolt.
Confirmei isso ao tentar conectar 3 monitores diretamente nas portas do Mac Mini (dois via Thunderbolt, 1 via HDMI), com os mesmos resultados que o OP ... um dos monitores não é acionado.
Algumas notas:
Este artigo pode conter informações sobre por que isso não funciona.
Primeiro, você está falando de uma máquina de baixo custo que utiliza memória compartilhada do sistema para seus gráficos. Eu dirijo dois monitores Thunderbolt com o meu Mac Mini 2012 com 16 GB de RAM e um SSD. O Mini usa uma quantidade estática de RAM para vídeo, não se ajusta com base na quantidade de RAM existente na máquina. Como um aparte, esse é um bom motivo para maximizar a RAM em uma máquina com vídeo compartilhado.
Você tem uma máquina com RAM de vídeo compartilhada totalizando 1 GB e está tentando controlar dois monitores de 1440p e um de 1080p, um total de 5,76 MP de saída de vídeo. Vale ressaltar, o iMac 5K está gerando menos pixels e requer uma placa de vídeo dedicada de 2 GB.
Isso funciona para mim: https://www.i-tech.com.au/products/146188_Wavlink_WL_UG35D6_USB_3_0_to_DVI.aspx
Nota: na minha experiência, quanto mais dispositivos USB você conectar, maior será a probabilidade de o seu terceiro monitor não funcionar (ligar e desligar) devido a, presumo, falta de energia.
Eu uso uma estação de ancoragem Thunderbolt 2 que permite adicionar 1 porta HDMI e uma porta Thunderbolt adicional para adicionar 2 monitores