Seja $Q_n = C_n.\{|X_i-X_j|;i < j\}_{(k)}$ portanto, para uma amostra muito curta como , pode ser calculada a partir da localização da estática da ésima ordem das diferenças entre pares: $\{1,3,6,2,7,5\}$$k$

    7 6 5 3 2 1
1   6 5 4 2 1
2   5 4 3 1
3   4 3 2
5   2 1
6   1
7

h = [n / 2] + 1 = 4

k = h (h-1) / 2 = 8

Assim$Q_n=C_n. 2$

Obviamente, para amostras grandes dizendo consistir em 80.000 registros, precisamos de uma memória muito grande.

Existe alguma maneira de calcular $Q_n$ no espaço 1D em vez de 2D?

Um link para a resposta ftp://ftp.win.ua.ac.be/pub/preprints/92/Timeff92.pdf, embora eu não possa entendê-lo completamente.

Atualização: O ponto crucial do problema é que, para alcançar a complexidade de tempo $O(n\log(n))$ , é necessário na ordem do armazenamento $O(n)$ .

Não, $O(n\log(n))$ é o limite teórico mais baixo para a complexidade de tempo de (consulte (1)) selecionar o elemento $k^{th}$ entre todos os $\frac{n(n-1)}{2}$ possíveis$|x_i - x_j|: 1 \leq i \lt j \leq n$.

Você pode obter espaço $O(1)$ , mas apenas verificando ingenuamente todas as combinações de $x_i-x_j$ no tempo $O(n^2)$ .

A boa notícia é que você pode usar o estimador $\tau$ de escala (consulte (2) e (3) para obter uma versão melhorada e algumas comparações de tempo), implementadas na função scaleTau2()no Rpacote robustbase. O estimador univariado $\tau$ é um estimador de escala em duas etapas (ou seja, re-ponderado). Possui 95% de eficiência gaussiana, 50% de ponto de interrupção e complexidade de $O(n)$ tempo e $O(1)$ espaço (além de poder ser facilmente on-line), reduzindo metade dos custos computacionais em uso repetido - embora você terá que cavar no Rcódigo para implementar esta opção, é bastante simples de fazer).

1. A complexidade da seleção e classificação em X + Y e matrizes com colunas classificadas GN Frederickson e DB Johnson, Journal of Computer and System Sciences Volume 24, Edição 2, abril de 1982, páginas 197-208.
2. Yohai, V. e Zamar, R. (1988). Estimativas de regressão de altos pontos de ruptura por meio da minimização de uma escala eficiente. Jornal da Associação Estatística Americana 83 406–413.
3. Maronna, R. e Zamar, R. (2002). Estimativas robustas de localização e dispersão para conjuntos de dados de alta dimensão. Technometrics 44 307-317

Editar Para usar isso

1. Inicie R(é gratuito e pode ser baixado aqui )
2. Instale o pacote digitando:

install.packages("robustbase")

3. Carregue o pacote digitando:

library("robustbase")

4. Carregue seu arquivo de dados e execute a função:

mydatavector <- read.table("address to my file in text format", header=T)
scaleTau2(mydatavector)

(Resposta muito curta) O texto para comentar diz

evite responder perguntas nos comentários.

aqui está: Existe um artigo sobre um algoritmo online que aparentemente funciona muito bem: Aplicando o Estimator Online$Q_n$ .

EDITAR

(pelo usuário user603). O algoritmo vinculado neste artigo é uma versão da janela em movimento do .$Q_n$

$\{x_i\}_{i=1}^N$$n<N$$\{x_i\}_{i=t-n+1}^t$$Q_n$$N-n+1$$Q_n$$\{Q_n^i\}_{i=1}^{N-n+1}$

$Q_n^i|Q_n^{i-1}$ $O(n\log(n))$$Q_n^i$

$Q_n$$\{x_i\}_{i=1}^N$$O(n^2)$

este é o meu implemento de Qn ...

Eu estava programando isso em C e o resultado é este:

void bubbleSort(double *datos, int N)
{
 for (int j=0; j<N-1 ;j++)     
  for (int i=j+1; i<N; i++)    
   if (datos[i]<datos[j])      
   {
    double tmp=datos[i];
    datos[i]=datos[j];
    datos[j]=tmp;
   }
}

double  fFactorial(long N)    
{
 double factorial=1.0;

 for (long i=1; i<=N; ++i)
  factorial*=(double)i;

 return factorial;  
}

double fQ_n(double *datos, int N)  // Rousseeuw's and Croux (1993) Qn scale estimator
{
 bubbleSort(datos, N);

 int m=(int)((fFactorial((long)N))/(fFactorial(2)*fFactorial((long)N-2)));

 double D[m];
 //double Cn=2.2219;      //not used now :) constant value https://www.itl.nist.gov/div898/software/dataplot/refman2/auxillar/qn_scale.htm

 int k=(int)((fFactorial((long)N/2+1))/(fFactorial(2)*fFactorial((long)N/2+1-2)));

 int y=0;

 for (int i=0; i<N; i++)
  for (int j=N-1; j>=0; j--)
   if (i<j)
   {
    D[y]=abs(datos[i]-datos[j]);
    y++;
   }

 bubbleSort(D, m);

 return D[k-1];
}

int main(int argc, char **argv)    
{
 double datos[6]={1,2,3,5,6,7};
 int N=6;

 // Priting in terminal the final solution
 printf("\n==[Results] ========================================\n\n");

 printf(" Q_n=%0.3f\n",fQ_n(datos,N));

 return 0;
}