Estatísticas e Big Data

Treinei dois modelos (classificadores binários usando o h2o AutoML) e quero selecionar um para usar. Eu tenho os seguintes resultados: model_id auc logloss logloss_train logloss_valid gini_train gini_valid DL_grid_1 0.542694 0.287469 0.092717 0.211956 0.872932 0.312975 DL_grid_2 0.543685 0.251431 0.082616 0.186196 0.900955 0.312662 as colunas auce loglosssão as métricas de validação cruzada …

14 model-selection  validation  auc  gini  log-loss 

Meu objetivo é classificar os sinais dos sensores. O conceito da minha solução até agora é: i) Recursos de engenharia a partir do sinal bruto ii) Seleção de recursos relevantes com o ReliefF e uma abordagem de clustering iii) Aplicação de NN, floresta aleatória e SVM No entanto, estou preso …

14 feature-selection  hyperparameter  optimization 

Eu estava lendo o artigo do FaceNet e no terceiro parágrafo da introdução diz: As abordagens anteriores de reconhecimento de face baseadas em redes profundas usam uma camada de classificação treinada sobre um conjunto de identidades de face conhecidas e, em seguida, usam uma camada de gargalo intermediário como uma …

14 neural-networks  image-processing 

Estou tentando entender o famoso artigo "Playing Atari with Deep Reforcement Learning" ( pdf ). Não estou claro sobre a diferença entre época e episódio . No algoritmo , o loop externo passa por episódios , enquanto na figura o eixo x é marcado como época . No contexto do …

14 neural-networks  terminology  reinforcement-learning  q-learning 

Minha principal pergunta é com relação à tentativa de entender como a validação cruzada k-fold se encaixa no contexto de ter conjuntos de treinamento / validação / teste (se é que se encaixa nesse contexto). Geralmente, as pessoas falam em dividir os dados em um conjunto de treinamento, validação e …

14 cross-validation  dataset  overfitting 

Para meu entendimento (muito básico), Naive Bayes estima probabilidades com base nas frequências de classe de cada recurso nos dados de treinamento. Mas como calcula a frequência de variáveis ​​contínuas? E ao fazer previsões, como classifica uma nova observação que pode não ter os mesmos valores de qualquer observação no …

14 machine-learning  classification  bayesian  naive-bayes 

O Tensorflow tem um tutorial de exemplo sobre a classificação do CIFAR-10 . No tutorial, a perda média de entropia cruzada no lote é minimizada. def loss(logits, labels): """Add L2Loss to all the trainable variables. Add summary for for "Loss" and "Loss/avg". Args: logits: Logits from inference(). labels: Labels from …

14 neural-networks  loss-functions  tensorflow 

Estou tentando aumentar o gradiente em um conjunto de dados com taxa de eventos de cerca de 1% usando o Enterprise miner, mas está falhando em produzir qualquer saída. Minha pergunta é: como é uma abordagem baseada em árvore de decisão, é correto usar o aumento de gradiente com um …

14 boosting  unbalanced-classes  rare-events  gradient 

Em alguns tutoriais, constatei que a inicialização do peso "Xavier" (artigo: Entendendo a dificuldade de treinar redes neurais profundas de avanço ) é uma maneira eficiente de inicializar os pesos das redes neurais. Para camadas totalmente conectadas, havia uma regra prática nesses tutoriais: Var(W)=2nin+nout,simpler alternative:Var(W)=1ninVar(W)=2nin+nout,simpler alternative:Var(W)=1ninVar(W) = \frac{2}{n_{in} + n_{out}}, …

14 normal-distribution  variance  neural-networks  conv-neural-network 

Por que a área sob a curva ROC tem a probabilidade de um classificador classificar uma instância "positiva" escolhida aleatoriamente (a partir das previsões obtidas) mais alta que uma instância "positiva" escolhida aleatoriamente (a partir da classe positiva original)? Como alguém prova essa afirmação matematicamente usando integral, fornecendo os CDFs …

14 probability  roc  auc 

Eu sei que a divergência KL não é simétrica e não pode ser estritamente considerada uma métrica. Se sim, por que é usado quando o JS Divergence satisfaz as propriedades necessárias para uma métrica? Existem cenários em que a divergência de KL pode ser usada, mas não a JS Divergence …

14 probability  distributions  kullback-leibler  metric 

Eu li sobre o truque log-soma-exp em muitos lugares (por exemplo , aqui e aqui ), mas nunca vi um exemplo de como ele é aplicado especificamente ao classificador Naive Bayes (por exemplo, com recursos discretos e duas classes) Como exatamente alguém evitaria o problema de subfluxo numérico usando esse …

14 naive-bayes  underflow 

Eu estava usando uma classe SVM , implementada no scikit-learn, para o meu trabalho de pesquisa. Mas não tenho um bom entendimento disso. Alguém pode dar uma explicação simples e boa de uma classe SVM ?

14 machine-learning  svm  data-mining  novelty-detection 

Estou tentando entender o conceito de super-dispersão na regressão logística. Eu li que a super-dispersão ocorre quando a variação observada de uma variável de resposta é maior do que seria esperado da distribuição binomial. Mas se uma variável binomial pode ter apenas dois valores (1/0), como pode ter uma média …

14 logistic  variance  binomial  mean  overdispersion 

Eu tenho um vetor de números que eu enviei aqui (... / code / MyData.Rdata) usando dput. Gostaria de obter o bca ci, então eu escrevi este código: my.mean <- function(dat, idx){ return (mean(dat[idx], na.rm = TRUE)) } boot.out<-boot(data=my.data, statistic = my.mean, R=1000) Mas quando executo o seguinte, recebo o …

14 r  bootstrap