Ciência de dados

Se a remoção de alguns neurônios resulta em um modelo com melhor desempenho, por que não usar uma rede neural mais simples com menos camadas e menos neurônios? Por que construir um modelo maior e mais complicado no começo e suprimir partes dele mais tarde?

13 machine-learning  deep-learning  keras  regularization  dropout 

Quero treinar uma CNN para reconhecimento de imagem. As imagens para treinamento não têm tamanho fixo. Quero que o tamanho da entrada da CNN seja 50x100 (altura x largura), por exemplo. Quando redimensiono algumas imagens de tamanho pequeno (por exemplo, 32 x 32) para inserir o tamanho, o conteúdo da …

13 machine-learning  image-classification  preprocessing  image-recognition 

Problema 1: Estou confuso com a descrição do LightGBM sobre o modo como a árvore é expandida. Eles afirmam: A maioria dos algoritmos de aprendizado de árvore de decisão cresce em árvore por nível (profundidade), conforme a imagem a seguir: Perguntas 1 : Quais algoritmos "mais" são implementados dessa maneira? …

13 decision-trees  xgboost 

Eu não sou especialista em auto-codificadores ou redes neurais, por qualquer meio, então me perdoe se essa é uma pergunta boba. Para fins de redução de dimensão ou visualização de clusters em dados de alta dimensão, podemos usar um autoencoder para criar uma representação bidimensional (com perdas) inspecionando a saída …

13 neural-network  dimensionality-reduction  autoencoder 

Se examinarmos 90-99% dos artigos publicados usando uma CNN (ConvNet). A grande maioria deles usa tamanho de filtro de números ímpares : {1, 3, 5, 7} para os mais usados. Essa situação pode levar a algum problema: com esses tamanhos de filtro, geralmente a operação de convolução não é perfeita …

13 deep-learning  convnet  computer-vision  convolution 

Eu li o seguinte: Para treinar nossa rede neural, inicializaremos cada parâmetro W (l) ijWij (l) e cada b (l) ibi (l) para um pequeno valor aleatório próximo de zero (digamos, de acordo com um Normal (0, ϵ2) Normal (0) , ϵ2) distribuição de alguns ϵϵ pequenos, digamos 0,01) dos …

13 deep-learning  stanford-nlp  randomized-algorithms 

Nas Árvores de Decisão, podemos entender a saída da estrutura da árvore e também podemos visualizar como a Árvore de Decisão toma decisões. Portanto, as árvores de decisão têm explicabilidade (sua saída pode ser explicada facilmente). Temos explicabilidade em redes neurais como nas árvores de decisão?

13 neural-network 

Eu li alguns artigos sobre a inicialização do kernel e muitos documentos mencionam que eles usam a regularização L2 do kernel (geralmente com ).λ = 0,0001λ=0,0001\lambda = 0.0001 Alguém faz algo diferente do que inicializar o viés com zero constante e não regularizá-lo? Documentos de inicialização do kernel Mishkin e …

13 neural-network 

Eu tenho uma boa compreensão geral do papel e mecanismo das camadas convolucionais no Deep Learning para processamento de imagens no caso de implementações 2D ou 3D - elas "simplesmente" tentam capturar padrões 2D nas imagens (em 3 canais no caso de 3D). Mas, recentemente, esbarrei em camadas convolucionais 1D …

13 deep-learning  nlp  convolution 

Estou tentando descobrir as dimensões de cada variável em uma RNN na camada de esquecimento, no entanto, não tenho certeza se estou no caminho certo. A próxima figura e equação é da postagem de Colah no blog "Entendendo as redes LSTM" : Onde: xtxtx_t é de entrada de tamanhom ∗ …

13 neural-network  rnn 

A ideia de aplicar filtros para fazer algo como identificar arestas é uma ideia bem legal. Por exemplo, você pode tirar uma imagem de 7. Com alguns filtros, você pode acabar com imagens transformadas que enfatizam diferentes características da imagem original. O original 7: pode ser experimentado pela rede como: …

13 neural-network 

Estou lendo uma apresentação e ela recomenda não usar a codificação deixar uma de fora, mas tudo bem com uma codificação quente. Eu pensei que ambos eram iguais. Alguém pode descrever quais são as diferenças entre eles?

13 machine-learning  data-mining  feature-selection  feature-extraction  feature-engineering 

Estou usando a Biblioteca Gensim em python para usar e treinar o modelo word2vector. Recentemente, eu estava olhando para inicializar meus pesos de modelo com algum modelo word2vec pré-treinado, como (modelo pré-treinado GoogleNewDataset). Eu tenho lutado com isso algumas semanas. Agora, acabei de pesquisar que no gesim existe uma função …

13 python  nlp  word-embeddings  word2vec  gensim 

Estou procurando encontrar pesos pré-treinados de modelos já treinados, como dados do Google Notícias, etc. Achei difícil treinar um novo modelo com quantidade suficiente (10 GB etc.) de dados para mim. Portanto, quero me beneficiar do aprendizado de transferência, no qual eu seria capaz de obter pesos de camada pré-treinados …

13 machine-learning  bigdata  word2vec 

Em quais casos é melhor usar uma árvore de decisão e outros casos um KNN? Por que usar um deles em certos casos? E o outro em diferentes casos? (Observando sua funcionalidade, não o algoritmo) Alguém tem algumas explicações ou referências sobre isso?

13 machine-learning  data-mining  decision-trees