As Ferramentas para webmasters têm um recurso interessante chamado "Desempenho do site", na seção Laboratórios. Ele mostrará um gráfico do tempo médio de carregamento nos últimos meses. A menos que seu site seja completamente estático e com pouco tráfego, ele certamente estará na área vermelha; portanto, não se preocupe.
Em alguns casos (presumo que para sites maiores), ele lista algumas das páginas mais lentas e algumas sugestões para melhorar a velocidade da página. Essas sugestões vêm da ferramenta Page Speed do Google, então sua melhor aposta é instalá-la e a ferramenta YSlow do Yahoo para ajudar a diagnosticar problemas de velocidade. Pesquise também os Webmasters profissionais e o Stack Overflow, existem várias perguntas para melhorar a velocidade do site aqui.
Não acho que o Google Analytics tenha algo que mostre a velocidade da página. Existe uma página "Velocidades de conexão", supostamente mostrando a velocidade da Internet dos visitantes, mas para mim isso sempre mostrou "Desconhecido" e nada mais.
Em termos de usabilidade, "máquinas" não podem realmente ajudá-lo com isso, pois é uma reação humana. Faça algum usuário testando a si mesmo. Acessibilidade é uma meta útil; como de costume, a Wikipedia tem muitas informações. Também existem listas de verificação de acessibilidade, basta procurá-las.
Para o SEO geral, você deve ficar de olho nas suas principais páginas e nas palavras-chave de referência no Google Analytics. Use a ferramenta Adwords do Google para verificar se há frases de pesquisa importantes que você está perdendo.
O GWT também possui vários recursos. "Consultas de pesquisa" mostra o que seus visitantes estão procurando, semelhante ao GA. Aqui, você pode classificar por sua posição média de pesquisa, cliques e taxa de cliques para encontrar possíveis melhorias. "Links para o seu site" também é bastante útil.