Sim, os circuitos CMOS podem esquentar quando há entradas flutuantes. Você deve sempre conectar pinos de entrada CMOS não utilizados a uma tensão definida, geralmente GND ou Vdd, a menos que a folha de dados indique o contrário (consulte também o final desta resposta e a resposta de Michael ). Se um pino puder ser configurado como entrada ou saída e você não tiver certeza de qual será, poderá colocar um resistor entre o pino e o GND / Vdd.
Se você deixar os pinos desconectados, é dito que eles "flutuam" e têm uma tensão não especificada. Essa tensão pode ser causada por indução nos cabos da embalagem, correntes de vazamento dentro ou fora da embalagem, descarga estática etc. O ponto principal é que você não conhece a tensão nas portas dos transistores de entrada aos quais o pino está conectado ( sinal A no inversor CMOS abaixo).

Na pior das hipóteses, essa tensão indefinida estará entre "alta" e "baixa", de modo que os dois transistores sejam condutores ao mesmo tempo. Assim, uma corrente alta (vários 10-100 mA) flui através dos transistores de Vdd para GND (Vss), gerando calor e possivelmente destruindo o chip.
Alguns CIs possuem circuitos especiais nos pinos de entrada para impedir que isso aconteça. Esse circuito geralmente é chamado de portador ou detentor de ônibus , mas também pode ser encontrado sob outros nomes, como pad-keeper (processadores iMX). É essencialmente um buffer (dois inversores em série) e um resistor grande conectado ao pino de entrada. Isso garante que o pino de entrada seja sempre conduzido para alto ou baixo quando nada mais estiver sendo conduzido.

Fontes de imagem: Wikimedia, domínio público.