Não, você não tem permissão para fazer isso. No entanto, você não precisa entrar em Portugal com o mesmo passaporte em que deixou o Reino Unido .
Como o seu passaporte australiano não possui visto ou selo de entrada no Reino Unido, você não pode deixar o Reino Unido nele.
Conclusão: Você precisa deixar o Reino Unido com seu passaporte libanês.
Os costumes portugueses não saberão (e nem se importam) de onde você veio. Assim, você pode entrar em Portugal em qualquer um dos seus passaportes, desde que possua um visto válido neste passaporte (ou tenha permissão para entrar sem visto).
Conclusão: Entre e deixe Portugal no passaporte que for mais fácil para entrar no país.
O mesmo no seu caminho de volta: você precisa deixar Portugal no mesmo passaporte com o qual entrou. No entanto, agora você pode entrar no Reino Unido com qualquer um dos seus passaportes - desde que possua um visto válido neste passaporte (ou tenha permissão para entrar sem visto). Mas, como você aparentemente estuda no Reino Unido e seu visto de estudante está no seu passaporte libanês, você deve entrar no seu passaporte libanês.
Entrar no Reino Unido com seu passaporte australiano provavelmente só lhe dará um visto de turista, o que provavelmente significa que você precisa sair do país após um certo período de tempo.
Dito isto, verifique se o seu visto de estudante é múltiplo. Se não for, você o perderá deixando o país - não importa quais passaportes você estiver usando em qualquer lugar.