Como Guy mencionou, o ColorSync Utility é o que você está procurando. Para mim, a compactação padrão também tinha pouca resolução e compactação com perdas. Então, criei um novo filtro no ColorSync - que fica disponível em, por exemplo, Visualização: Resolução 200 dpi, qualidade jpeg ~ 75%
Etapa 1: Abra o Utilitário ColorSync e crie o novo filtro, como abaixo

As configurações acima fornecem arquivos com tamanho aceitável e qualidade decente (por exemplo, para envio por e-mail)
Etapa 2: abra o PDF na visualização, escolha Arquivo> Exportar, clique no menu pop-up Filtro de quartzo e escolha o filtro relevante ("Reduzir o tamanho do arquivo 200dpi" neste caso)

Edit 2011-12-18: Parece que o Lion não é tão direto em relação à integração do Preview. Veja aqui :
Basta copiar seu filtro de / Usuários / SeuNome / Biblioteca / Filtros / para / Biblioteca / Serviços em PDF / e o perfil personalizado voltará à visualização.