Estatísticas e Big Data machine-learning

2

É realmente bom executar a seleção de recursos não supervisionados antes da validação cruzada?

Nos elementos do aprendizado estatístico , encontrei a seguinte declaração: Há uma qualificação: as etapas iniciais de triagem não supervisionada podem ser feitas antes que as amostras sejam deixadas de fora. Por exemplo, podemos selecionar os 1000 preditores com maior variação em todas as 50 amostras, antes de iniciar a …

9 machine-learning cross-validation feature-selection

2

Devemos sempre fazer CV?

Minha pergunta: devo fazer CV mesmo para um conjunto de dados relativamente grande? Eu tenho um conjunto de dados relativamente grande e aplicarei um algoritmo de aprendizado de máquina ao conjunto de dados. Como meu PC não é rápido, o CV (e a busca na grade) às vezes leva muito …

9 machine-learning cross-validation

1

Alguém pode explicar como eu tenho 5 anos sobre esse problema no livro de ESL da Hastie?

Estou trabalhando no livro de ESL da Hastie e estou tendo dificuldades com a pergunta 2.3. A questão é a seguinte: Estamos considerando uma estimativa de vizinho mais próximo na origem, e a distância mediana da origem ao ponto de dados mais próximo é dada por essa equação. Não faço …

9 machine-learning computational-statistics

6

Eu gostaria de aprender sobre teoria das probabilidades, teoria das medidas e, finalmente, aprendizado de máquina. Por onde começo? [fechadas]

Fechado . Esta questão precisa ser mais focada . No momento, não está aceitando respostas. Deseja melhorar esta pergunta? Atualize a pergunta para que ela se concentre apenas em um problema editando esta postagem . Fechado há 3 anos . Eu gostaria de aprender sobre teoria das probabilidades, teoria das …

9 machine-learning probability references measure-theory

1

Como o aprendiz de base linear trabalha para aumentar? E como isso funciona na biblioteca xgboost?

Eu sei como implementar a função objetivo linear e os reforços lineares no XGBoost. Minha pergunta concreta é: quando o algoritmo se encaixa no residual (ou no gradiente negativo) ele está usando um recurso em cada etapa (ou seja, modelo univariado) ou todos os recursos (modelo multivariado)? Qualquer referência à …

9 regression machine-learning boosting xgboost

1

Qual a eficiência do Q-learning com redes neurais quando há uma unidade de saída por ação?

Antecedentes: Estou usando a aproximação do valor Q da Rede Neural na minha tarefa de aprendizado por reforço. A abordagem é exatamente a mesma descrita nesta pergunta , porém a pergunta em si é diferente. Nesta abordagem, o número de saídas é o número de ações que podemos executar. E, …

9 machine-learning neural-networks reinforcement-learning q-learning

4

Por que a descida do gradiente é necessária?

Quando podemos diferenciar a função de custo e encontrar parâmetros resolvendo equações obtidas por meio de diferenciação parcial com relação a cada parâmetro e descobrir onde a função de custo é mínima. Também acho que é possível encontrar vários locais onde as derivadas são zero, assim podemos verificar todos esses …

9 machine-learning computational-statistics

2

Prevendo a confiança de uma rede neural

Suponha que eu queira treinar uma rede neural profunda para executar classificação ou regressão, mas quero saber o quão confiante será a previsão. Como eu consegui isso? Minha idéia é calcular a entropia cruzada para todos os dados de treinamento, com base em seu desempenho de previsão nos medidores neurais …

9 machine-learning neural-networks

1

Quantos dados para aprendizado profundo?

Estou aprendendo sobre o aprendizado profundo (especificamente CNNs) e como normalmente exige uma enorme quantidade de dados para evitar o ajuste excessivo. No entanto, também me disseram que quanto maior a capacidade / mais parâmetros de um modelo, mais dados são necessários para evitar o ajuste excessivo. Portanto, minha pergunta …

9 machine-learning neural-networks deep-learning conv-neural-network

1

Normalização de entrada para neurônios ReLU

De acordo com "Efficient Backprop" de LeCun et al (1998) , é uma boa prática normalizar todas as entradas para que elas fiquem centralizadas em torno de 0 e fiquem dentro da faixa da segunda derivada máxima. Então, por exemplo, usaríamos [-0,5,0,5] para a função "Tanh". Isso é para ajudar …

9 machine-learning neural-networks normalization deep-learning multidimensional-scaling

2

O gargalo da aplicação da aprendizagem profunda na prática

Depois de ler muitos artigos de aprendizagem profunda, uma espécie de sentimento grosseiro é que existem muitos truques no treinamento da rede para obter o desempenho melhor que o normal. Do ponto de vista das aplicações do setor, é muito difícil desenvolver esse tipo de truque, exceto aqueles grupos de …

9 machine-learning deep-learning deep-belief-networks

1

Os contornos

Assumo uma configuração geral de regressão, ou seja, uma função contínua é escolhida de uma família { h θ } θ para ajustar dados dados ( x i , y i ) ∈ X × R n , i = 1 , … , k ( X pode ser qualquer …

9 regression machine-learning multiple-regression

1

Por que descida proximal do gradiente em vez de métodos simples de subgradiente para Lasso?

Eu estava pensando em resolver Lasso através de métodos de subgradiente de baunilha. Mas li pessoas sugerindo o uso da descida proximal do gradiente. Alguém pode destacar por que o GD proximal, em vez de os métodos do subgradiente de baunilha, são usados no Lasso?

9 machine-learning optimization lasso gradient-descent

1

Não é possível fazer com que esta rede de autoencoder funcione corretamente (com camadas convolutional e maxpool)

As redes de codificadores automáticos parecem ser muito mais complicadas do que as redes MLP classificadoras normais. Depois de várias tentativas usando Lasagne, tudo o que recebo na saída reconstruída é algo que se assemelha, na melhor das hipóteses, a uma média borrada de todas as imagens do banco de …

9 machine-learning neural-networks dimensionality-reduction unsupervised-learning autoencoders

2

Ao usar SVMs, por que preciso dimensionar os recursos?

De acordo com a documentação do objeto StandardScaler no scikit-learn: Por exemplo, muitos elementos usados na função objetivo de um algoritmo de aprendizado (como o kernel RBF do Support Vector Machines ou os regularizadores L1 e L2 dos modelos lineares) assumem que todos os recursos estão centralizados em torno de …

9 machine-learning svm standard-deviation mean references

Perguntas com a marcação «machine-learning»