Estatísticas e Big Data

Os graus de liberdade em uma regressão múltipla são iguais a , onde é o número de variáveis.N−k−1N−k−1N-k-1kkk Faz kkk incluem a variável de resposta (isto é, YYY )? Por exemplo, no modelo Y=B0+B1X1+B2X2Y=B0+B1X1+B2X2Y = B_0 + B_1X_1 + B_2X_2 , então k=3k=3k = 3 (ou seja, 1 df cada …

13 self-study  multiple-regression  degrees-of-freedom 

Estou apenas trabalhando com o livro Inteligência Coletiva (de Toby Segaran) e me deparei com a pontuação da distância euclidiana. No livro, o autor mostra como calcular a semelhança entre duas matrizes de recomendação (ou seja, .pessoa × filme ↦ pontuação )pessoa×filme↦Ponto)\textrm{person} \times \textrm{movie} \mapsto \textrm{score}) Ele calcula a distância …

13 distance-functions  similarities 

A entropia diferencial do VR gaussiano é log2(σ2πe−−−√)log2⁡(σ2πe)\log_2(\sigma \sqrt{2\pi e}). Isso depende deσσ\sigma, que é o desvio padrão. Se normalizarmos a variável aleatória para que ela tenha variação unitária, sua entropia diferencial cai. Para mim, isso é contra-intuitivo, porque a complexidade Kolmogorov da constante de normalização deve ser muito pequena …

13 information-theory  entropy  randomness 

Eu sei como executar uma regressão linear em um conjunto de pontos. Ou seja, eu sei como ajustar um polinômio de minha escolha a um determinado conjunto de dados (no sentido LSE). No entanto, o que não sei é como forçar minha solução a passar por alguns pontos específicos de …

13 regression  machine-learning  least-squares  linear-model  polynomial 

For a random variable X∼Exp(λ)X∼Exp(λ)X\sim \text{Exp}(\lambda) (E[X]=1λE[X]=1λ\mathbb{E}[X] = \frac{1}{\lambda}) I feel intuitively that E[X|X>x]E[X|X>x]\mathbb{E}[X|X > x] should equal x+E[X]x+E[X]x + \mathbb{E}[X] since by the memoryless property the distribution of X|X>xX|X>xX|X > x is the same as that of XXX but shifted to the right by xxx. However, I'm struggling to …

13 random-variable  exponential  conditional-expectation 

Estou acompanhando a pergunta que fiz anteriormente nos RBMs . Vejo muita literatura descrevendo-os, mas nenhum que realmente fale de regressão (nem mesmo classificação com dados rotulados). Sinto que ele é usado apenas para dados não rotulados. Existem recursos para lidar com a regressão? Ou é tão simples quanto adicionar …

13 regression  machine-learning  classification  neural-networks 

Estou procurando algum código-fonte aberto ou uma biblioteca existente que eu possa usar. Tanto quanto eu digo, o pacote glmnet não é muito facilmente extensível para cobrir o caso não negativo. Posso estar errado, qualquer pessoa com alguma idéia muito apreciada. Por não negativo, quero dizer que todos os coeficientes …

13 r  lasso 

Eu tenho duas amostras ( n ≈ 70n≈70n \approx 70 em ambos os casos). Os meios diferem cerca de duas vezes o valor padrão. dev. O valor resultante TTTé de aproximadamente 10. Embora seja ótimo saber que mostrei conclusivamente que os meios não são os mesmos, isso me parece ser …

13 hypothesis-testing  t-test 

Estabilidade beta em regressão linear com alta multicolinearidade? Digamos que em uma regressão linear, as variáveis x1x1x_1 e x2x2x_2 têm alta multicolinearidade (a correlação é de cerca de 0,9). Estamos preocupados com a estabilidade do coeficiente ββ\beta , portanto temos que tratar a multicolinearidade. A solução do livro seria apenas …

13 regression  multicollinearity 

Digamos que você tenha dois conjuntos de dados multivariados, digamos um antigo e um novo, e que eles deveriam ter sido gerados pelo mesmo processo (para o qual você não tem modelo), mas talvez, em algum lugar ao longo da linha de coleta / criação os dados, algo deu errado. …

13 multivariate-analysis 

Estou usando o pacote 'lars' em R com o seguinte código: > library(lars) > set.seed(3) > n <- 1000 > x1 <- rnorm(n) > x2 <- x1+rnorm(n)*0.5 > x3 <- rnorm(n) > x4 <- rnorm(n) > x5 <- rexp(n) > y <- 5*x1 + 4*x2 + 2*x3 + 7*x4 + …

13 correlation  feature-selection  lasso  regularization  ridge-regression 

Eu tenho uma lista de proteínas com seus valores de característica. Uma tabela de amostra é assim: ...............Feature1...Feature2...Feature3...Feature4 Protein1 Protein2 Protein3 Protein4 Linhas são proteínas e colunas são características. Eu também tenho uma lista de proteínas que interagem também; por exemplo Protein3, Protein4 Protein1, Protein2 Protein4, Protein1 Problema : Para …

13 machine-learning  statistical-significance  feature-selection  networks 

Atualmente, estou lendo o excelente livro "Doing Bayesian Data Analysis" de Kruschke. No entanto, o capítulo sobre regressão logística hierárquica (capítulo 20) é um tanto confuso. A Figura 20.2 descreve uma regressão logística hierárquica em que o parâmetro de Bernoulli é definido como uma função linear nos coeficientes transformados através …

13 regression  bayesian  logistic  multilevel-analysis 

Eu tenho um conjunto de dados com duas classes sobrepostas, sete pontos em cada classe, os pontos estão no espaço bidimensional. Em R, e estou executando svmo e1071pacote para criar um hiperplano de separação para essas classes. Estou usando o seguinte comando: svm(x, y, scale = FALSE, type = 'C-classification', …

13 r  machine-learning  svm  libsvm  e1071 

A partir de uma resposta em uma pergunta anterior , fui direcionado para a sequência de Halton, para criar um conjunto de vetores que cobria um espaço de amostra uniforme de maneira bastante uniforme. Mas a página da wikipedia menciona que números primos mais altos são geralmente altamente correlacionados no …

13 sampling  small-sample  quasi-monte-carlo