Quais diretrizes devem ser seguidas para o uso de redes neurais com entradas esparsas

Tenho entradas extremamente esparsas, por exemplo, locais de determinados recursos em uma imagem de entrada. Além disso, cada recurso pode ter várias detecções (não tenho certeza se isso influenciará o design do sistema). Vou apresentar como uma imagem binária do canal k com pixels ON representando a presença desse recurso e vice-versa. Podemos ver que essa entrada é muito esparsa.

Portanto, existem recomendações ao usar dados esparsos com redes neurais, especificamente dados que representem detecções / locais?

neural-networks deep-learning sparse

— user3246971
fonte

Esta é uma pergunta interessante. se você encontrou uma resposta para sua pergunta, considere respondê-la. Caso contrário, revise sua pergunta com informações mais detalhadas sobre o problema que você está tentando solucionar. Além disso, densidade de esparsos da matriz.

— NULL

Você pode tentar usar combinações de recursos para reduzir a dimensão do espaço de entrada. Tipo da abordagem word2vec na PNL, parece que poderia ser aplicada no seu caso, pois seus recursos são binários (Ativado / Desativado).

— Miguel
fonte