Aqui está um pedaço de código C ++ que mostra um comportamento muito peculiar. Por algum motivo estranho, classificar os dados milagrosamente torna o código quase seis vezes mais rápido:
#include <algorithm>
#include <ctime>
#include <iostream>
int main()
{
// Generate data
const unsigned arraySize = 32768;
int data[arraySize];
for (unsigned c = 0; c < arraySize; ++c)
data[c] = std::rand() % 256;
// !!! With this, the next loop runs faster.
std::sort(data, data + arraySize);
// Test
clock_t start = clock();
long long sum = 0;
for (unsigned i = 0; i < 100000; ++i)
{
// Primary loop
for (unsigned c = 0; c < arraySize; ++c)
{
if (data[c] >= 128)
sum += data[c];
}
}
double elapsedTime = static_cast<double>(clock() - start) / CLOCKS_PER_SEC;
std::cout << elapsedTime << std::endl;
std::cout << "sum = " << sum << std::endl;
}- Sem
std::sort(data, data + arraySize);, o código é executado em 11,54 segundos. - Com os dados classificados, o código é executado em 1,93 segundos.
Inicialmente, pensei que isso poderia ser apenas uma anomalia de linguagem ou compilador, então tentei o Java:
import java.util.Arrays;
import java.util.Random;
public class Main
{
public static void main(String[] args)
{
// Generate data
int arraySize = 32768;
int data[] = new int[arraySize];
Random rnd = new Random(0);
for (int c = 0; c < arraySize; ++c)
data[c] = rnd.nextInt() % 256;
// !!! With this, the next loop runs faster
Arrays.sort(data);
// Test
long start = System.nanoTime();
long sum = 0;
for (int i = 0; i < 100000; ++i)
{
// Primary loop
for (int c = 0; c < arraySize; ++c)
{
if (data[c] >= 128)
sum += data[c];
}
}
System.out.println((System.nanoTime() - start) / 1000000000.0);
System.out.println("sum = " + sum);
}
}Com um resultado semelhante, mas menos extremo.
Meu primeiro pensamento foi que a classificação traz os dados para o cache, mas depois pensei em como isso era bobo porque a matriz era apenas gerada.
- O que está acontecendo?
- Por que o processamento de uma matriz classificada é mais rápido que o processamento de uma matriz não classificada?
O código está resumindo alguns termos independentes, portanto, o pedido não deve importar.
170
Woops ... re: Meltdown e Specter
—
KyleMit
@SachinVerma Em cima da minha cabeça: 1) A JVM pode finalmente ser inteligente o suficiente para usar movimentos condicionais. 2) O código está ligado à memória. 200M é muito grande para caber no cache da CPU. Portanto, o desempenho será prejudicado pela largura de banda da memória em vez de ramificação.
—
Mysticial 17/01
@ Místico, cerca de 2). Eu pensei que a tabela de previsão controla os padrões (independentemente das variáveis reais que foram verificadas para esse padrão) e alterei a saída da previsão com base no histórico. Você poderia me dar uma razão, por que uma matriz super grande não se beneficiaria da previsão de ramificação?
—
Sachin Verma
@SachinVerma Sim, mas quando a matriz é tão grande, um fator ainda maior provavelmente entra em jogo - a largura de banda da memória. A memória não está plana . O acesso à memória é muito lento e há uma quantidade limitada de largura de banda. Para simplificar demais, existem apenas tantos bytes que podem ser transferidos entre a CPU e a memória em um período fixo de tempo. Um código simples como o desta pergunta provavelmente atingirá esse limite, mesmo que seja lento devido a erros de previsão. Isso não acontece com uma matriz de 32768 (128 KB) porque ela se encaixa no cache L2 da CPU.
—
Mysticial
Existe uma nova falha de segurança chamada BranchScope: cs.ucr.edu/~nael/pubs/asplos18.pdf
—
Veve
