Classificação com dados parcialmente "desconhecidos"

Suponha que eu queira aprender um classificador que use um vetor de números como entrada e dê um rótulo de classe como saída. Meus dados de treinamento consistem em um grande número de pares de entrada e saída.

No entanto, quando chego ao teste de alguns dados novos, esses dados geralmente são apenas parcialmente completos. Por exemplo, se o vetor de entrada tiver comprimento 100, apenas 30 dos elementos poderão receber valores e o restante será "desconhecido".

Como exemplo disso, considere o reconhecimento de imagem onde se sabe que parte da imagem está ocluída. Ou considere a classificação em um sentido geral, onde se sabe que parte dos dados está corrompida. Em todos os casos, eu sei exatamente quais elementos no vetor de dados são as partes desconhecidas.

Gostaria de saber como posso aprender um classificador que funcionaria para esse tipo de dados? Eu poderia apenas definir os elementos "desconhecidos" para um número aleatório, mas, como geralmente existem mais elementos desconhecidos do que os conhecidos, isso não parece uma boa solução. Ou, eu poderia alterar aleatoriamente elementos nos dados de treinamento para "desconhecido" e treinar com eles em vez dos dados completos, mas isso pode exigir uma amostragem exaustiva de todas as combinações de elementos conhecidos e desconhecidos.

Em particular, estou pensando em redes neurais, mas estou aberto a outros classificadores.

Alguma ideia? Obrigado!

Eu acho que existe uma maneira razoável de fazê-lo funcionar com redes neurais.

$p$

Eu nunca vi isso antes, mas isso seria muito parecido com o Dropout (um método de regularização conhecido nas Redes Neurais) nos neurônios de entrada, em vez dos neurônios ocultos. Não acho que seja uma boa ideia fazê-lo em geral, mas se você é forçado a (como o seu caso), pelo menos é o suficiente, teoricamente, para algo que é conhecido por funcionar.

Eu acho que existem algumas opções que funcionam com qualquer classificador:

• Atribua os valores ausentes com um único valor, como a média ou mediana do conjunto de treinamento ou algum valor previsto das partes observadas da entrada, ou use apenas um número aleatório ou uma constante.
• Use vários valores diferentes para as incógnitas e agregue os resultados, por exemplo, calcule a média

Além disso, você pode usar classificadores baseados em árvore (por exemplo, florestas aleatórias) e, se uma árvore precisar avaliar uma divisão em um recurso ausente, poderá passar os dados para os dois nós filhos.

$p(x,y)$$x$$y$$x$$x$e calcule a média dos resultados ponderados pela probabilidade dessa imputação. Isso pode ser feito analiticamente em forma fechada para alguns classificadores, por exemplo, um modelo de Análise Discriminante Linear, ou aproximadamente amostrando as incógnitas, por exemplo, para uma Máquina de Boltzmann Restrita ou suas variantes profundas (relacionadas à alimentação de redes neurais).