Estatísticas e Big Data machine-learning

1

libsvm “atingindo o número máximo de iterações” aviso e validação cruzada

Estou usando libsvm no modo C-SVC com um kernel polinomial de grau 2 e sou obrigado a treinar vários SVMs. Cada conjunto de treinamento possui 10 recursos e 5000 vetores. Durante o treinamento, recebo este aviso para a maioria dos SVMs que treino: WARNING: reaching max number of iterations optimization …

20 machine-learning cross-validation svm regularization libsvm

1

Por que a poda não é necessária para árvores florestais aleatórias?

Breiman diz que as árvores são cultivadas sem poda. Por quê? Quero dizer que deve haver uma sólida razão pela qual as árvores da floresta aleatória não são podadas. Por outro lado, é considerado muito importante podar uma única árvore de decisão para evitar o excesso de ajuste. Existe alguma …

20 machine-learning

2

O AdaBoost é menos ou mais propenso a sobreajuste?

Eu li várias declarações (aparentemente) contraditórias, independentemente de o AdaBoost (ou outras técnicas de reforço) ser menos ou mais propenso a sobreajuste em comparação com outros métodos de aprendizado. Existem boas razões para acreditar em um ou outro? Se depende, do que depende? Quais são as razões pelas quais o …

20 machine-learning boosting

3

Aplicando o "truque do kernel" a métodos lineares?

O truque do kernel é usado em vários modelos de aprendizado de máquina (por exemplo, SVM ). Foi introduzido pela primeira vez no artigo "Fundamentos teóricos do método da função potencial no aprendizado de reconhecimento de padrões" em 1964. A definição da Wikipedia diz que é um método para usar …

20 machine-learning kernel-trick

2

Como a floresta aleatória gera a floresta aleatória

Não sou especialista em floresta aleatória, mas entendo claramente que o principal problema da floresta aleatória é a geração (aleatória) de árvores. Você pode me explicar como as árvores são geradas? (ou seja, qual é a distribuição usada para geração de árvores?) Desde já, obrigado !

20 machine-learning r algorithms cart random-forest

1

Diferença entre dados ausentes e dados esparsos em algoritmos de aprendizado de máquina

Quais são as principais diferenças entre dados esparsos e dados ausentes? E como isso influencia o aprendizado de máquina? Mais especificamente, que efeito os dados esparsos e ausentes têm sobre algoritmos de classificação e algoritmos de regressão (números preditores). Estou falando de uma situação em que a porcentagem de dados …

20 machine-learning dataset missing-data sparse

5

Por que a engenharia de recursos funciona?

Recentemente, aprendi que uma das maneiras de encontrar melhores soluções para problemas de ML é através da criação de recursos. Pode-se fazer isso, por exemplo, somando dois recursos. Por exemplo, possuímos dois recursos "ataque" e "defesa" de algum tipo de herói. Em seguida, criamos um recurso adicional chamado "total", que …

20 machine-learning feature-construction

2

Noções básicas sobre derivação de troca de polarização e desvio

Estou lendo o capítulo da troca de viés e variação de Os elementos do aprendizado estatístico e tenho dúvidas na fórmula da página 29. Deixe os dados surgirem de um modelo tal que onde é aleatório número com valor esperado e variância . Seja o valor esperado do erro do …

20 machine-learning unbiased-estimator mse bias-variance-tradeoff

2

Quais métodos de otimização funcionam melhor para LSTMs?

Eu tenho usado o theano para experimentar LSTMs e queria saber quais métodos de otimização (SGD, Adagrad, Adadelta, RMSprop, Adam, etc) funcionam melhor para LSTMs? Existem trabalhos de pesquisa sobre esse assunto? Além disso, a resposta depende do tipo de aplicativo para o qual estou usando o LSTM? Nesse caso, …

20 machine-learning neural-networks optimization lstm

2

O trem de interpolação funciona para glmnet com validação cruzada para alfa e lambda?

O caretpacote R é validado cruzadamente sobre alphae lambdapara o glmnetmodelo? Executando esse código, eGrid <- expand.grid(.alpha = (1:10) * 0.1, .lambda = (1:10) * 0.1) Control <- trainControl(method = "repeatedcv",repeats = 3,verboseIter =TRUE) netFit <- train(x =train_features, y = y_train, method = "glmnet", tuneGrid = eGrid, trControl = Control) …

20 r machine-learning cross-validation caret glmnet

2

Por que a retropropagação não funciona quando você inicializa os pesos com o mesmo valor?

Por que a retropropagação não funciona quando você inicializa todo o peso com o mesmo valor (por exemplo, 0,5), mas funciona bem quando dados números aleatórios? O algoritmo não deveria calcular o erro e trabalhar a partir daí, apesar de os pesos serem inicialmente os mesmos?

20 machine-learning neural-networks backpropagation

5

Aprendizado profundo: como sei quais variáveis são importantes?

Em termos de linguagem da rede neural (y = Peso * x + viés), como eu saberia quais variáveis são mais importantes que outras? Eu tenho uma rede neural com 10 entradas, uma camada oculta com 20 nós e uma camada de saída que possui um nó. Não sei como …

20 machine-learning neural-networks bias tensorflow theano

3

Quando os algoritmos genéticos são uma boa opção para otimização?

Os algoritmos genéticos são uma forma de método de otimização. Frequentemente, a descida do gradiente estocástico e seus derivados são a melhor opção para otimização de funções, mas algoritmos genéticos ainda são usados algumas vezes. Por exemplo, a antena da sonda ST5 da NASA foi criada com um algoritmo genético: …

20 machine-learning optimization gradient-descent genetic-algorithms

3

Por que os pesos das redes RNN / LSTM são compartilhados ao longo do tempo?

Recentemente, fiquei interessado em LSTMs e fiquei surpreso ao saber que os pesos são compartilhados ao longo do tempo. Sei que, se você compartilhar os pesos ao longo do tempo, as seqüências de tempo de entrada poderão ter um comprimento variável. Com pesos compartilhados, você tem muito menos parâmetros para …

20 machine-learning lstm rnn

1

Supervisão distante: supervisionada, semi-supervisionada ou ambas?

"Supervisão à distância" é um esquema de aprendizado no qual um classificador é aprendido, devido a um conjunto de treinamento pouco rotulado (os dados de treinamento são rotulados automaticamente com base em heurísticas / regras). Penso que tanto a aprendizagem supervisionada quanto a semi-supervisionada podem incluir essa "supervisão distante" se …

20 machine-learning data-mining dataset references unsupervised-learning

Perguntas com a marcação «machine-learning»