O aplicativo C # / .net em que estou trabalhando está sofrendo de um lento vazamento de memória. Usei o CDB com SOS para tentar determinar o que está acontecendo, mas os dados não parecem fazer sentido, então esperava que um de vocês já tivesse experimentado isso antes.
O aplicativo está sendo executado na estrutura de 64 bits. Ele está continuamente calculando e serializando dados para um host remoto e está atingindo o Large Object Heap (LOH) um pouco. No entanto, espero que a maioria dos objetos LOH sejam transitórios: assim que o cálculo for concluído e enviado ao host remoto, a memória deve ser liberada. O que estou vendo, no entanto, é um grande número de matrizes de objetos (vivos) intercalados com blocos livres de memória, por exemplo, pegando um segmento aleatório do LOH:
0:000> !DumpHeap 000000005b5b1000 000000006351da10
Address MT Size
...
000000005d4f92e0 0000064280c7c970 16147872
000000005e45f880 00000000001661d0 1901752 Free
000000005e62fd38 00000642788d8ba8 1056 <--
000000005e630158 00000000001661d0 5988848 Free
000000005ebe6348 00000642788d8ba8 1056
000000005ebe6768 00000000001661d0 6481336 Free
000000005f214d20 00000642788d8ba8 1056
000000005f215140 00000000001661d0 7346016 Free
000000005f9168a0 00000642788d8ba8 1056
000000005f916cc0 00000000001661d0 7611648 Free
00000000600591c0 00000642788d8ba8 1056
00000000600595e0 00000000001661d0 264808 Free
...
Obviamente, eu esperaria que esse fosse o caso se meu aplicativo estivesse criando objetos grandes e de longa duração durante cada cálculo. (Ele faz isso e eu aceito que haverá um grau de fragmentação do LOH, mas esse não é o problema aqui.) O problema são as matrizes de objetos muito pequenas (1056 bytes) que você pode ver no despejo acima, que não consigo ver no código sendo criados e que permanecem enraizados de alguma forma.
Observe também que o CDB não está relatando o tipo quando o segmento de heap é despejado: Não tenho certeza se isso está relacionado ou não. Se eu despejar o objeto marcado (<-), o CDB / SOS relatará bem:
0:015> !DumpObj 000000005e62fd38
Name: System.Object[]
MethodTable: 00000642788d8ba8
EEClass: 00000642789d7660
Size: 1056(0x420) bytes
Array: Rank 1, Number of elements 128, Type CLASS
Element Type: System.Object
Fields:
None
Os elementos do array de objetos são todos strings e os strings são reconhecíveis a partir do código do nosso aplicativo.
Além disso, não consigo encontrar suas raízes de GC, pois o comando! GCRoot trava e nunca mais volta (até tentei deixá-lo durante a noite).
Portanto, eu apreciaria muito se alguém pudesse esclarecer por que essas matrizes de objetos pequenos (<85k) estão terminando no LOH: em quais situações o .NET colocará uma matriz de objetos pequena lá? Além disso, por acaso alguém conhece uma maneira alternativa de determinar as raízes desses objetos?
Atualização 1
Outra teoria que desenvolvi ontem é que essas matrizes de objetos começaram grandes, mas foram reduzidas, deixando os blocos de memória livre que são evidentes nos despejos de memória. O que me deixa desconfiado é que as matrizes de objetos sempre parecem ter 1.056 bytes de comprimento (128 elementos), 128 * 8 para as referências e 32 bytes de overhead.
A ideia é que talvez algum código não seguro em uma biblioteca ou no CLR esteja corrompendo o campo de número de elementos no cabeçalho da matriz. Um pouco difícil, eu sei ...
Atualização 2
Graças a Brian Rasmussen (veja a resposta aceita), o problema foi identificado como fragmentação do LOH causada pela tabela interna da string! Eu escrevi um aplicativo de teste rápido para confirmar isso:
static void Main()
{
const int ITERATIONS = 100000;
for (int index = 0; index < ITERATIONS; ++index)
{
string str = "NonInterned" + index;
Console.Out.WriteLine(str);
}
Console.Out.WriteLine("Continue.");
Console.In.ReadLine();
for (int index = 0; index < ITERATIONS; ++index)
{
string str = string.Intern("Interned" + index);
Console.Out.WriteLine(str);
}
Console.Out.WriteLine("Continue?");
Console.In.ReadLine();
}
O aplicativo primeiro cria e desreferencia strings exclusivas em um loop. Isso é apenas para provar que a memória não vaza neste cenário. Obviamente, não deveria e não é.
No segundo loop, strings exclusivas são criadas e internadas. Esta ação os enraíza na tabela interna. O que não percebi é como a mesa interna é representada. Parece que consiste em um conjunto de páginas - matrizes de objetos de 128 elementos de string - que são criadas no LOH. Isso é mais evidente no CDB / SOS:
0:000> .loadby sos mscorwks
0:000> !EEHeap -gc
Number of GC Heaps: 1
generation 0 starts at 0x00f7a9b0
generation 1 starts at 0x00e79c3c
generation 2 starts at 0x00b21000
ephemeral segment allocation context: none
segment begin allocated size
00b20000 00b21000 010029bc 0x004e19bc(5118396)
Large object heap starts at 0x01b21000
segment begin allocated size
01b20000 01b21000 01b8ade0 0x00069de0(433632)
Total Size 0x54b79c(5552028)
------------------------------
GC Heap Size 0x54b79c(5552028)
Fazer um dump do segmento LOH revela o padrão que vi no aplicativo com vazamento:
0:000> !DumpHeap 01b21000 01b8ade0
...
01b8a120 793040bc 528
01b8a330 00175e88 16 Free
01b8a340 793040bc 528
01b8a550 00175e88 16 Free
01b8a560 793040bc 528
01b8a770 00175e88 16 Free
01b8a780 793040bc 528
01b8a990 00175e88 16 Free
01b8a9a0 793040bc 528
01b8abb0 00175e88 16 Free
01b8abc0 793040bc 528
01b8add0 00175e88 16 Free total 1568 objects
Statistics:
MT Count TotalSize Class Name
00175e88 784 12544 Free
793040bc 784 421088 System.Object[]
Total 1568 objects
Observe que o tamanho da matriz do objeto é 528 (em vez de 1056) porque minha estação de trabalho é de 32 bits e o servidor de aplicativos é de 64 bits. As matrizes de objetos ainda têm 128 elementos.
Portanto, a moral desta história é ser um estagiário muito cuidadoso. Se a string que você está internando não é conhecida como membro de um conjunto finito, seu aplicativo vazará devido à fragmentação do LOH, pelo menos na versão 2 do CLR.
No caso de nosso aplicativo, há um código geral no caminho do código de desserialização que internaliza os identificadores de entidade durante o desempacotamento: Agora suspeito fortemente que este é o culpado. No entanto, as intenções do desenvolvedor eram obviamente boas, pois eles queriam ter certeza de que, se a mesma entidade for desserializada várias vezes, apenas uma instância da string do identificador será mantida na memória.