Respostas:
Você tem várias perguntas aqui. Vamos começar com a diferença entre PCA e análise fatorial (FA). O PCA fornece uma transformação das variáveis originais em um novo conjunto mutuamente ortogonais. O primeiro novo componente maximiza a variação. O PCA responde à pergunta: "Qual combinação linear de minhas variáveis tem maior variação? (Sujeita à normalização dos pesos)".
A FA começa com um modelo sobre como as variáveis estão relacionadas e de onde vem a variação nos dados. Este modelo implica que a matriz de covariância terá um determinado formato. A idéia principal aqui é a variável latente (ou fator). Esses fatores são considerados responsáveis pela interessante variação observada na amostra e a análise tenta recuperá-los. A análise fatorial pode ser feita usando vários métodos - e um deles envolve fazer um PCA a caminho da solução. Mas é isso. Você realmente não precisa fazer um PCA para obter uma FA.
O mais confuso é que o SPSS oferece sua rotina de PCA no mesmo menu de análise que a análise fatorial exploratória, incentivando, assim, nos iniciantes a falsa ideia de que esses métodos são os mesmos. A filosofia por trás deles é totalmente diferente.
Varimax e Oblimin. A análise fatorial na verdade responde à pergunta: "se meus dados, com suas variáveis p dizem, realmente provêm do espaço dimensional aq (q <p) e da adição de ruído, o que é esse espaço dimensional q?" Na prática, os algoritmos não apenas fornecem o espaço dimensional q, eles também fornecem uma base para esse espaço (esses são os fatores). Mas essa base pode não ser a melhor maneira de entender o subespaço q dimensional. Os métodos de rotação de fatores preservam o subespaço e fornecem uma base diferente para ele. Varimax retorna fatores ortogonais; Oblimin permite que os fatores não sejam ortogonais.
Idealmente, gostaríamos de fatores que carregam "tudo ou nada" nas variáveis originais ... como em "As perguntas 1 a 5 da pesquisa se referem a atitudes em relação à autoridade; as perguntas 6 a 10 se relacionam a um senso de justiça". Você deseja que os coeficientes de fator sejam grandes ou 0. Os métodos de rotação visam isso. A idéia é fornecer fatores mais fáceis de interpretar. Oblimin faz um trabalho "melhor", uma vez que não precisa forçar os resultados a serem ortogonais. Por outro lado, a idéia por trás dos fatores era que eles respondem pela variação na amostra ... se os fatores estão correlacionados, o que explica a relação entre os fatores?
Para mim, acho que provavelmente é melhor entrar com a Varimax durante uma FA exploratória. Em seguida, explore as possíveis relações entre os fatores na análise fatorial confirmatória, mais adequados a esse tipo de modelagem.
Observe que o SPSS, como tal, não realiza modelagem confirmatória de FA ou de equações estruturais. Você precisa comprar o complemento Amos para isso. Como alternativa, você pode usar as funções sem () ou lavaan () em R.