Eu apenas li sobre isso, e já se passaram pelo menos 15 anos desde que vi algo impresso, mas entendo que existem vários algoritmos usados.
Primeiro, como afirmado, alguns filmes foram coloridos colorindo minuciosamente cada quadro à mão. (Os primeiros minutos de Gone with the Wind foram feitos dessa maneira, após a decisão de filmar o restante em cores.)
Depois disso, várias técnicas são usadas, todas baseadas no processamento de imagens de computador. A abordagem mais simples é dividir o filme em cenas individuais, cada uma em que a câmera não muda e, em seguida, um algoritmo de computador reconhece regiões de diferentes intensidades. Alguém no monitor de um computador observa os primeiros quadros da cena e define a cor de cada região; depois, o computador leva essa coloração pelo resto da cena, assumindo que as regiões identificadas não se transformarão tão rapidamente que a conexão com suas as cores atribuídas serão perdidas. Essa técnica geralmente se limita a colorir os principais atores e os antecedentes básicos, já que as cenas mudam muito rapidamente na maioria dos filmes,
Técnicas mais sofisticadas usam algoritmos de reconhecimento de imagem para reconhecer (por exemplo) uma pessoa, separar o plano de fundo do primeiro plano, etc. Em seguida, as cores podem ser atribuídas em uma base mais global e um certo grau de sombreamento pode ser realizado à medida que os atores se movem da sombra para a luz, etc. E, como esse esquema pode funcionar além de uma única cena, mais esforço pode ser feito para que um humano defina inicialmente as cores, para que uma paleta mais variada e vívida possa ser usada.
Eu suponho (embora nunca tenha lido) que a técnica semelhante à animação por computador agora pode ser usada, com base nas técnicas usadas para animar filmes de ação. Uma espécie de captura de movimento poderia ser usada no filme original e, em seguida, uma animação por computador da ação seria produzida. Com uma cuidadosa "mistura", os detalhes do filme original podem ser mantidos enquanto se usa as cores geradas pela animação.