Esses são modelos javascript que são compilados em HTML por uma biblioteca javascript. Eu acho que o WP usa underscore.js .
Digamos que você escreva um plugin jQuery e precise anexar código HTML ao documento. Usando esses modelos, você pode evitar colocar esse código HTML em grandes seqüências concatenadas dentro do seu código javascript e colocá-lo onde está a outra marcação HTML. Então você carrega esse modelo do seu plug-in, compila-o (as variáveis são substituídas) e anexa o HTML resultante ao seu documento. Essencialmente, você separa a lógica de negócios da lógica de apresentação. Isso também torna seu plug-in mais dissociado.