Respostas:
Um arquivo que termina com '.exe' é destinado ao sistema operacional Windows. Ele nunca será executado de forma nativa em qualquer sabor do Linux. Você precisa obter os binários Linux do MATLAB.
Você pode verificar Requisitos do sistema - Versão 2011b para obter mais informações. Além do suporte ao Solaris, não houve muitas mudanças desde 2009a.