Qual é o significado de acessos à memória “não temporais” em x86

Esta é uma questão de baixo nível. Na montagem x86, existem duas instruções SSE:

MOVDQA xmmi, m128

e

MOVNTDQA xmmi, m128

O Manual do Desenvolvedor de Software IA-32 diz que NT em MOVNTDQA significa Non-Temporal e que, caso contrário, é igual a MOVDQA.

Minha pergunta é: o que significa não temporal ?

As instruções SSE não temporais (MOVNTI, MOVNTQ, etc.) não seguem as regras normais de coerência de cache. Portanto, os armazenamentos não temporais devem ser seguidos por uma instrução SFENCE para que seus resultados sejam vistos por outros processadores em tempo hábil.

Quando os dados são produzidos e não (imediatamente) consumidos novamente, o fato de que as operações de armazenamento de memória leem primeiro uma linha de cache completa e, em seguida, modificam os dados em cache é prejudicial ao desempenho. Esta operação remove os dados dos caches que podem ser necessários novamente em favor dos dados que não serão usados ​​em breve. Isso é especialmente verdadeiro para grandes estruturas de dados, como matrizes, que são preenchidas e usadas posteriormente. Antes que o último elemento da matriz seja preenchido, o tamanho total despeja os primeiros elementos, tornando o armazenamento em cache das gravações ineficaz.

Para esta e outras situações semelhantes, os processadores fornecem suporte para operações de gravação não temporais. Atemporal neste contexto significa que os dados não serão reutilizados em breve, portanto, não há razão para armazená-los em cache. Essas operações de gravação não temporais não leem uma linha de cache e a modificam; em vez disso, o novo conteúdo é gravado diretamente na memória.

Fonte: http://lwn.net/Articles/255364/

Espo acerta o alvo. Só queria adicionar meus dois centavos:

A frase "atemporal" significa ausência de localidade temporal. Os caches exploram dois tipos de localidade - espacial e temporal, e ao usar uma instrução atemporal você está sinalizando ao processador que não espera que o item de dados seja usado em um futuro próximo.

Estou um pouco cético quanto ao assembly codificado manualmente que usa as instruções de controle de cache. Em minha experiência, essas coisas levam a mais bugs do que qualquer aumento efetivo de desempenho.

De acordo com o Manual do desenvolvedor de software das arquiteturas Intel® 64 e IA-32, Volume 1: Arquitetura básica, capítulo "Programação com extensões Intel Streaming SIMD (Intel SSE)":

Cache de dados temporais vs. não temporais

Os dados referenciados por um programa podem ser temporais (os dados serão usados ​​novamente) ou atemporais (os dados serão referenciados uma vez e não reutilizados no futuro imediato). Por exemplo, o código do programa é geralmente temporal, enquanto os dados de multimídia, como a lista de exibição em um aplicativo gráfico 3-D, costumam ser atemporais. Para fazer uso eficiente dos caches do processador, geralmente é desejável armazenar em cache os dados temporais e não os dados não temporais. Sobrecarregar os caches do processador com dados não temporais é algumas vezes referido como "poluir os caches". As instruções de controle de capacidade de cache SSE e SSE2 permitem que um programa grave dados não temporais na memória de uma maneira que minimiza a poluição de caches.

Descrição das instruções de carregamento e armazenamento não temporais. Fonte: Intel 64 and IA-32 Architectures Software Developer's Manual, Volume 2: Instruction Set Reference

CARGA (MOVNTDQA - Carregar Dica de Alinhamento Não Temporal de Duas Palavras Quadword)

Carrega uma palavra quádrupla dupla do operando de origem (segundo operando) para o operando de destino (primeiro operando) usando uma dica não temporal se a fonte de memória for do tipo de memória WC (combinação de gravação) [...]

[...] o processador não lê os dados na hierarquia de cache, nem busca a linha de cache correspondente da memória na hierarquia de cache.

Observe que, como Peter Cordes comenta, não é útil na memória WB (write-back) normal nos processadores atuais porque a dica do NT é ignorada (provavelmente porque não há pré-buscadores HW compatíveis com o NT) e a semântica de carga totalmente ordenada se aplica . prefetchntapode ser usado como uma carga de redução de poluição da memória WB

STORE (MOVNTDQ - Armazenar Inteiros Empacotados Usando Dica Não Temporal)

Move os inteiros compactados no operando de origem (segundo operando) para o operando de destino (primeiro operando) usando uma dica não temporal para evitar o armazenamento em cache dos dados durante a gravação na memória.

[...] o processador não grava os dados na hierarquia de cache, nem busca a linha de cache correspondente da memória para a hierarquia de cache.

Usando a terminologia definida em Políticas e desempenho de gravação de cache , eles podem ser considerados como write-around (no-write-alocate, no-fetch-on-write-miss).

Finalmente, pode ser interessante revisar as notas de John McAlpin sobre armazenamentos não temporais .