Perguntas com a marcação «shannon-entropy»

Lema: Assumindo a eta-equivalência, temos isso (\x -> ⊥) = ⊥ :: A -> B. Prova: ⊥ = (\x -> ⊥ x)por eta-equivalência e (\x -> ⊥ x) = (\x -> ⊥)por redução no lambda. O relatório Haskell 2010, seção 6.2 especifica a seqfunção por duas equações: seq :: a …

14 domain-theory  haskell  extensionality  cc.complexity-theory  counting-complexity  fl.formal-languages  automata-theory  cc.complexity-theory  arithmetic-circuits  it.information-theory  shannon-entropy  graph-theory  pr.probability  graph-theory  approximation-algorithms  approximation-hardness  multicommodity-flow  cc.complexity-theory  ds.algorithms  np-hardness  polynomial-time  dynamic-programming  lo.logic  terminology 

Eu estou procurando um ligado na entropia da soma de duas variáveis aleatórias discretas independentes X e Y . Naturalmente, H ( X + Y ) ≤ H ( X ) + H ( Y ) ( ∗ ) No entanto, aplicado à soma de n variáveis ​​aleatórias independentes Bernoulli …

12 it.information-theory  shannon-entropy 

Normalmente, a entropia de Shannon é usada para provar os resultados da codificação de canal. Mesmo para os resultados da separação do canal de origem, é usada a entropia de Shannon. Dada a equivalência entre as noções de informação de Shannon (global) e Kolmogorov (local), houve um estudo para utilizar …

12 it.information-theory  kolmogorov-complexity  shannon-entropy 

Conheço o trabalho de Shannon com entropia, mas ultimamente tenho trabalhado em estruturas de dados sucintas nas quais a entropia empírica é frequentemente usada como parte da análise de armazenamento. Shannon definido a entropia da informação produzida por uma fonte de informação discreta como - ∑ki = 1pEuregistropEu-∑Eu=1 1kpEuregistro⁡pEu-\sum_{i=1}^k p_i …

9 reference-request  shannon-entropy  succinct 

Digamos que eu tenho uma variável aleatória de um bit e seja n um número natural. Eu quero uma sequência de variáveis ​​aleatórias 0 = X 0 , X 1 , … , X n = X stX∈ { 0 , 1 }X∈{0,1}X \in \{0,1\}nnn0 = X0 0, X1, …

8 it.information-theory  shannon-entropy