Mike está certo de que a mensagem de erro que você está recebendo é do próprio aplicativo Management Studio e não do SQL Server. É a memória na estação de trabalho local que foi esgotada, provavelmente devido à tentativa de atrair 16 bilhões de linhas para o aplicativo cliente (renderizando que muitos dados em uma grade são bastante caros em termos de memória, portanto, tente limitar suas consultas usando TOP
etc. - Não sei que coisa (s) prática (s) você poderia fazer com dados suficientes para usar toda a sua memória local).
Mas quero resolver outro problema: usar o Gerenciador de tarefas para avaliar a quantidade de memória que o SQL Server está usando. Não faça isso; é um mentiroso ousado. Copiando desta resposta (sua pergunta é dupla, então não posso realmente fechá-la como duplicada):
NUNCA, NUNCA confiar no Gerenciador de Tarefas para dizer quanta memória o SQL Server está usando. Pare de usar o Gerenciador de tarefas para esse período. Use o contador de desempenho - você também pode consultar o contador de desempenho usando DMVs:
SELECT object_name, cntr_value
FROM sys.dm_os_performance_counters
WHERE counter_name = 'Total Server Memory (KB)';
Você pode salvar isso como um atalho de consulta em Ferramentas> Opções> Ambiente> Teclado> Atalhos de Consulta e obter resultados precisos em uma janela de consulta muito mais rapidamente do que obter resultados imprecisos no Gerenciador de Tarefas.
Você também pode verificar a pressão da memória (e se pode fazer algo a respeito) usando estas consultas:
SELECT object_name, cntr_value
FROM sys.dm_os_performance_counters
WHERE counter_name IN ('Total Server Memory (KB)', 'Target Server Memory (KB)');
-- SQL Server 2012:
SELECT physical_memory_kb FROM sys.dm_os_sys_info;
-- Prior versions:
SELECT physical_memory_in_bytes FROM sys.dm_os_sys_info;
EXEC sp_configure 'max server memory';