Como já foi dito, não podemos mais resfriar efetivamente as CPUs se pressionássemos a tensão necessária para os mesmos aumentos de freqüência relativa no passado. Houve um tempo (era P4 e anterior) em que você podia comprar uma nova CPU e ver um ganho "imediato" de velocidade, porque a taxa de clock aumentou significativamente em comparação à geração anterior. Agora, atingimos uma parede térmica, das sortes.
Cada nova geração moderna de processadores está aumentando ligeiramente a taxa de clock, mas isso também é relativo à capacidade de resfriá-los adequadamente. Fabricantes de chips, como a Intel, estão continuamente se concentrando em reduzir o tamanho da matriz da CPU para torná-los mais eficientes em termos de energia e produzir menos calor nos mesmos relógios. Como observação lateral, esse tamanho de matriz encolhível torna esses processadores modernos mais propensos a morrer devido a sobretensão em vez de superaquecimento. Isso significa que também está limitando a taxa de clock do teto de qualquer CPU de geração atual sem outras otimizações feitas pelo fabricante do chip.
Outra área que está sendo fortemente focada pelos fabricantes de chips está aumentando o número de núcleos no chip. Isso leva a um aumento significativo no poder computacional, mas apenas ao usar software que aproveita vários núcleos. Observe a diferença entre potência computacional e velocidade aqui. Simplificando, a velocidade se refere à rapidez com que um computador pode executar uma única instrução, enquanto a potência computacional se refere a quantas computações um computador pode fazer em um determinado período de tempo. Sistemas de operação modernos e muitos softwares modernos aproveitam vários núcleos. O problema é que a programação simultânea / paralela é mais difícil que o paradigma de programação linear padrão. Isso aumentou o tempo que muitos programas no mercado levaram para aproveitar ao máximo a potência desses processadores mais novos, porque muitos desenvolvedores não estavam acostumados a escrever programas dessa maneira. Atualmente, ainda existem alguns programas no mercado (modernos ou antigos) que não tiram proveito de múltiplos núcleos ou multiencadeamento. O programa de criptografia que você citou é um exemplo.
Essas duas áreas de foco dos fabricantes de chips estão intrinsecamente conectadas. Ao reduzir o tamanho da matriz e o consumo de energia de um chip, eles podem aumentar o número de núcleos no referido chip. Eventualmente, porém, isso também atingirá uma parede, causando outra mudança de paradigma mais drástica.
A razão dessa mudança de paradigma se deve ao fato de nos aproximarmos dos limites do silício como material base para a produção de chips. Isso é algo que a Intel e outros vêm trabalhando na solução há algum tempo. A Intel afirmou que tem uma alternativa ao silício em andamento, e provavelmente começaremos a vê-lo depois de 2017. Além desse novo material, a Intel também está analisando transistores 3D que podem "triplicar efetivamente o poder de processamento". Aqui está um artigo que menciona essas duas idéias: http://apcmag.com/intel-looks-beyond-silicon-for-processors-past-2017.htm