Em um comentário à pergunta original, o OP sugere que uma contagem precisa de pessoas pode não ser necessária, mas o objetivo é ser capaz de detectar um acúmulo incomum de pessoas em uma área. Esse é um problema um pouco diferente e provavelmente muito mais fácil.
Use uma câmera infravermelha
Se você não precisar contar exatamente quantas pessoas estão na área, mas apenas detectar que há um número extraordinariamente grande, a câmera infravermelha é provavelmente a melhor escolha.
Isso deve limitar seu problema a apenas medir a área total de aquecimento humano.
As pessoas aparecem como bolhas brilhantes em infravermelho.
Fonte da imagem
Agora - com um simples processamento de imagem, podemos encontrar os pixels dentro de um certo intervalo e apenas adicioná-los, para encontrar uma medida para a área total da imagem que representa algo que é aproximadamente o calor de um ser humano. Se isso crescer rapidamente, podemos suspeitar que haja uma multidão de pessoas na área.