Previsão de variável de resposta categórica

Eu tenho o seguinte tipo de dados (codificado em R):

v.a = c('cat', 'dog', 'dog', 'goat', 'cat', 'goat', 'dog', 'dog')
v.b = c(1, 2, 1, 2, 1, 2, 1, 2)
v.c = c('blue', 'red', 'blue', 'red', 'red', 'blue', 'yellow', 'yellow')
set.seed(12)
v.d = rnorm(8)
aov(v.a ~ v.b + v.c + v.d) # Error

Gostaria de saber se o valor de v.bou o valor de v.ctem alguma capacidade de prever o valor de v.a. Eu executaria uma ANOVA (como mostrado acima), mas acho que não faz sentido, pois minha variável de resposta não é ordinal (é categórica). O que devo fazer?

Você pode usar QUALQUER classificador. Incluindo Discriminantes Lineares, logit multinomial como Bill apontou, Support Vector Machines, Redes Neurais, CART, floresta aleatória, árvores C5, há um mundo de modelos diferentes que podem ajudá-lo a prever usando e . Aqui está um exemplo usando a implementação R da floresta aleatória:$v.a$$v.b$$v.c$

# packages
library(randomForest)

#variables
v.a= c('cat','dog','dog','goat','cat','goat','dog','dog')
v.b= c(1,2,1,2,1,2,1,2)
v.c= c('blue', 'red', 'blue', 'red', 'red', 'blue', 'yellow', 'yellow')

# model fit
# note that you must turn the ordinal variables into factor or R wont use
# them properly
model <- randomForest(y=as.factor(v.a),x=cbind(v.b,as.factor(v.c)),ntree=10)

#plot of model accuracy by class
plot(model)

# model confusion matrix
model$confusion

Claramente, essas variáveis ​​não mostram uma relação forte.

_{Essa é uma resposta prática mais parcial, mas funciona para mim fazer alguns exercícios antes de me aprofundar na teoria} .

Esse link ats.ucla.edu é uma referência que pode ajudar a começar a entender sobre a regressão logística multinomial (como apontado por Bill), de uma maneira mais prática.
Apresenta código reproduzível para entender a função multinomdo nmetpacote Re também fornece um resumo sobre a interpretação das saídas.

Considere este código:

va = c('cat','dog','dog','goat','cat','goat','dog','dog') 
     # cat will be the outcome baseline
vb = c(1,2,1,2,1,2,1,2)
vc = c('blue','red','blue','red','red','blue','yellow','yellow') 
     # blue will be the vc predictor baseline
set.seed(12)
vd = round(rnorm(8),2)

data = data.frame(cbind(va,vb,vc,vd))

library(nnet)
fit <- multinom(va ~ as.numeric(vb) + vc + as.numeric(vd), data=data)

# weights:  18 (10 variable)
initial  value 8.788898 
iter  10 value 0.213098
iter  20 value 0.000278
final  value 0.000070 
converged

fit

Call:
multinom(formula = va ~ as.numeric(vb) + vc + as.numeric(vd), 
    data = data)

Coefficients:
     (Intercept) as.numeric(vb)     vcred  vcyellow as.numeric(vd)
dog    -1.044866       120.3495 -6.705314  77.41661      -21.97069
goat   47.493155       126.4840 49.856414 -41.46955      -47.72585

Residual Deviance: 0.0001656705 
AIC: 20.00017 

É assim que você pode interpretar o modelo de logística multinomial ajustada log-linear:

$$\begin{align} \ln\left(\frac{P(va={\rm cat})}{P(va={\rm dog})}\right) &= b_{10} + b_{11}vb + b_{12}(vc={\rm red}) + b_{13}(vc={\rm yellow}) + b_{14}vd \\ &\ \\ \ln\left(\frac{P(va={\rm cat})}{P(va={\rm goat})}\right) &= b_{20} + b_{21}vb + b_{22}(vc={\rm red}) + b_{23}(vc={\rm yellow}) + b_{24}vd \end{align}$$

Aqui está um trecho sobre como os parâmetros do modelo podem ser interpretados:

• Um aumento de uma unidade na variável vd está associado à diminuição nas chances de log de "cão" vs. "gato" no valor de 21.97069 ( ).$b_{14}$

a mesma lógica para a segunda linha, mas, considerando "cabra" vs. "gato" com ( = -47,72585). $b_{24}$

• As probabilidades de log de ser "cachorro" vs. "gato" aumentarão em 6,705314 se você passar de vc = "blue" para vc = "red" ( ). $b_{12}$

.....

Há muito mais no artigo, mas eu pensei que essa parte fosse o núcleo.

---

Referência:

R Exemplos de análise de dados: Regressão logística multinomial. UCLA: Grupo de Consultoria Estatística.
de http://www.ats.ucla.edu/stat/r/dae/mlogit.htm (acessado em 05 de novembro de 2013).