Perguntas com a marcação «feature-selection»

Está comparando recursos usando F-regressiono mesmo que correlacionando recursos com o rótulo individualmente e observando o R2R2R^2 valor? Muitas vezes vi meus colegas usarem um F regression seleção de recursos em seu pipeline de aprendizado de máquina em sklearn: sklearn.feature_selection.SelectKBest(score_func=sklearn.feature_selection.f_regression...)` Alguns me dizem - por que eles dão os mesmos …

14 feature-selection  python  scikit-learn  r-squared  f-test 

Pergunta: Quais são as vantagens / desvantagens de usar um anterior sobre o outro para a seleção de variáveis? Suponha que eu tenha a probabilidade: onde eu posso colocar qualquer um dos anteriores: w i ∼ π δ 0 + ( 1 - π ) N ( 0 , 100 …

14 bayesian  feature-selection 

Particularmente no contexto das competições de kaggle, notei que o desempenho do modelo se refere à seleção / engenharia de recursos. Embora eu possa entender completamente por que isso acontece quando se lida com os algoritmos de ML mais convencionais / da velha escola, não vejo por que esse seria …

14 neural-networks  deep-learning  feature-selection  feature-engineering 

Meu objetivo é classificar os sinais dos sensores. O conceito da minha solução até agora é: i) Recursos de engenharia a partir do sinal bruto ii) Seleção de recursos relevantes com o ReliefF e uma abordagem de clustering iii) Aplicação de NN, floresta aleatória e SVM No entanto, estou preso …

14 feature-selection  hyperparameter  optimization 

Estou lendo sobre a melhor seleção de subconjunto no livro Elementos do aprendizado estatístico. Se eu tiver 3 preditores x1,x2,x3x1,x2,x3x_1,x_2,x_3 , crio 23=823=82^3=8 subconjuntos: Subconjunto sem preditores subconjunto com o preditorx1x1x_1 subconjunto com o preditorx2x2x_2 subconjunto com preditor x3x3x_3 subconjunto com preditores x1,x2x1,x2x_1,x_2 subconjunto com preditores x1,x3x1,x3x_1,x_3 subconjunto com preditores …

13 regression  feature-selection  lasso  bias-variance-tradeoff 

Pelo que entendi, a seleção de variáveis ​​com base em valores-p (pelo menos no contexto de regressão) é altamente falha. Parece que a seleção de variáveis ​​com base no AIC (ou similar) também é considerada defeituosa por alguns, por razões semelhantes, embora isso pareça um pouco obscuro (por exemplo, veja …

13 hypothesis-testing  multiple-regression  feature-selection  model-selection  aic 

Eu sei que a seleção de recursos e a redução de dimensionalidade visam reduzir o número de recursos no conjunto original de recursos. Qual é a diferença exata entre os dois se estivermos fazendo a mesma coisa nos dois?

13 machine-learning  pca  feature-selection  dimensionality-reduction 

Uma das motivações para a rede elástica foi a seguinte limitação do LASSO: No caso p>np>np > n , o laço seleciona no máximo n variáveis ​​antes de saturar, devido à natureza do problema de otimização convexa. Esse parece ser um recurso limitante para um método de seleção de variáveis. …

13 regression  optimization  feature-selection  lasso 

A regressão passo a passo havia sido superutilizada em muitos artigos biomédicos no passado, mas isso parece estar melhorando com uma melhor educação de seus muitos problemas. Muitos revisores mais antigos ainda o solicitam. Quais são as circunstâncias em que a regressão gradual tem um papel e deve ser usada, …

13 regression  multiple-regression  feature-selection  model-selection  stepwise-regression 

Eu li que o laço de grupo é usado para seleção de variáveis ​​e esparsidade em um grupo de variáveis. Eu quero saber a intuição por trás dessa afirmação. Por que o laço de grupo é preferível ao laço? Por que o caminho da solução do laço de grupo não …

13 regression  feature-selection  lasso  regularization 

Entendo que o princípio básico por trás do algoritmo para LLE consiste em três etapas. Localizando a vizinhança de cada ponto de dados por alguma métrica como k-nn. Encontre pesos para cada vizinho que denotem o efeito que o vizinho tem no ponto de dados. Construa a incorporação de baixa …

13 machine-learning  model-selection  feature-selection  dimensionality-reduction  nonlinear 

Estou usando o pacote 'lars' em R com o seguinte código: > library(lars) > set.seed(3) > n <- 1000 > x1 <- rnorm(n) > x2 <- x1+rnorm(n)*0.5 > x3 <- rnorm(n) > x4 <- rnorm(n) > x5 <- rexp(n) > y <- 5*x1 + 4*x2 + 2*x3 + 7*x4 + …

13 correlation  feature-selection  lasso  regularization  ridge-regression 

Eu tenho uma lista de proteínas com seus valores de característica. Uma tabela de amostra é assim: ...............Feature1...Feature2...Feature3...Feature4 Protein1 Protein2 Protein3 Protein4 Linhas são proteínas e colunas são características. Eu também tenho uma lista de proteínas que interagem também; por exemplo Protein3, Protein4 Protein1, Protein2 Protein4, Protein1 Problema : Para …

13 machine-learning  statistical-significance  feature-selection  networks 

Eu tenho alguns pontos de dados, cada um contendo 5 vetores de resultados discretos aglomerados, os resultados de cada vetor gerados por uma distribuição diferente (o tipo específico do qual não tenho certeza, meu melhor palpite é Weibull, com o parâmetro de forma variando em algum ponto exponencial à potência …

13 distributions  clustering  feature-selection  kolmogorov-smirnov  k-means 

Minha pergunta: Por que a floresta aleatória considera subconjuntos aleatórios de recursos para dividir no nível do nó em cada árvore, e não no nível da árvore ? Antecedentes: isso é uma questão de história. Tin Kam Ho publicado este papel na construção de "florestas de decisão", selecionando aleatoriamente um …

12 machine-learning  feature-selection  random-forest  importance  history