A análise de componentes principais pode ser aplicada a conjuntos de dados que contêm uma mistura de variáveis ​​contínuas e categóricas?

Eu tenho um conjunto de dados que possui dados contínuos e categóricos. Estou analisando usando o PCA e estou me perguntando se é bom incluir as variáveis ​​categóricas como parte da análise. Meu entendimento é que o PCA só pode ser aplicado a variáveis ​​contínuas. Isso está correto? Se não puder ser usado para dados categóricos, que alternativas existem para sua análise?

Embora um PCA aplicado em dados binários produza resultados comparáveis ​​aos obtidos em uma Análise de Correspondência Múltipla (as pontuações fatoriais e os valores próprios são linearmente relacionados), existem técnicas mais apropriadas para lidar com tipos de dados mistos, ou seja, Análise de Fatores Múltiplos para dados mistos disponíveis em o pacote FactoMineR R ( AFDM()). Se suas variáveis ​​puderem ser consideradas como subconjuntos estruturados de atributos descritivos, a Análise Fatorial Múltipla ( MFA()) também será uma opção.

O desafio com variáveis ​​categóricas é encontrar uma maneira adequada de representar distâncias entre categorias de variáveis ​​e indivíduos no espaço fatorial. Para superar esse problema, você pode procurar uma transformação não linear de cada variável - seja nominal, ordinal, polinomial ou numérica - com escala ideal. Isso está bem explicado nos Métodos Gifi para Escalabilidade Ótima no R: Os homals do Pacote , e uma implementação está disponível nos homals do pacote R correspondentes .

Uma pesquisa no Google "pca para variáveis ​​discretas" fornece uma boa visão geral de S. Kolenikov (@StasK) e G. Angeles. Para adicionar à resposta chl, a análise de PC é realmente uma análise de vetores próprios da matriz de covariância. Portanto, o problema é como calcular a matriz de covariância "correta". Uma das abordagens é usar correlação policórica .

Eu sugeriria dar uma olhada em Linting & Kooij, 2012 " Análise de componentes principais não lineares com CATPCA: um tutorial ", Journal of Personality Assessment ; 94 (1).

Abstrato

Este artigo foi criado como um tutorial para análise não linear de componentes principais (NLPCA), guiando sistematicamente o leitor através do processo de análise de dados reais sobre avaliação de personalidade pelo Teste de Rorschach Inkblot. A NLPCA é uma alternativa mais flexível ao PCA linear que pode lidar com a análise de variáveis ​​possivelmente não linearmente relacionadas com diferentes tipos de nível de medição. O método é particularmente adequado para analisar dados nominais (qualitativos) e ordinais (por exemplo, tipo Likert), possivelmente combinados com dados numéricos. O programa CATPCA do módulo Categorias no SPSS é usado nas análises, mas a descrição do método pode ser facilmente generalizada para outros pacotes de software.

Ainda tenho o privilégio de comentar na postagem de alguém, por isso estou adicionando meu comentário como uma resposta separada. Por isso, tenha paciência comigo.

Continuando o que o @Martin F comentou, recentemente me deparei com os PCAs não lineares. Eu estava olhando para PCAs não lineares como uma alternativa possível quando uma variável contínua se aproxima da distribuição de uma variável ordinal à medida que os dados ficam mais escassos (isso acontece na genética muitas vezes quando a menor frequência de alelo da variável fica mais e mais baixa e você fica com um número muito baixo de contagens em que você realmente não pode justificar uma distribuição de uma variável contínua e precisa afrouxar as suposições distributivas, tornando-a uma variável ordinal ou uma variável categórica.) O PCA não linear pode lidar com essas duas condições, mas depois discutindo com maestros estatísticos na faculdade de genética, a chamada de consenso foi que os PCAs não-lineares não são usados ​​com muita frequência e o comportamento desses PCAs ainda não foi testado extensivamente (podem estar se referindo apenas ao campo da genética, por favor, leve-o com grãos de sal). Na verdade, é uma opção fascinante. Espero ter adicionado 2 centavos (felizmente relevantes) à discussão.

Há uma abordagem recentemente desenvolvida para esses problemas: Modelos Generalizados de Classificação Baixa .

Um dos papéis que usa essa técnica é chamado PCA em um Data Frame .

O PCA pode ser colocado assim:

$n$$m$$M$

$n$$k$$\hat{X}$$k$$m$$\hat{Y}$$k$

$\hat{X}, \hat{Y}$$\underset{X, Y}{argmin} \| M - XY \|_F^2$

$\| \cdot \|_F^2$

PCAmixdata#Rstats package :

Implementa análise de componentes principais, rotação ortogonal e análise de múltiplos fatores para uma mistura de variáveis ​​quantitativas e qualitativas.

Exemplo da vinheta mostra resultados para saída contínua e categórica