TLDR; Embora as fórmulas possam ser semelhantes, o RMSE e o desvio padrão têm uso diferente.
Você está certo de que o desvio padrão e o RMSE são semelhantes porque são raízes quadradas de diferenças ao quadrado entre alguns valores. No entanto, eles não são os mesmos. O desvio padrão é usado para medir a propagação de dados em torno da média, enquanto o RMSE é usado para medir a distância entre alguns valores e a previsão para esses valores. O RMSE é geralmente usado para medir o erro de previsão, ou seja, quanto as previsões feitas diferem dos dados previstos. Se você usar a média como sua previsão para todos os casos, o RMSE e o SD serão exatamente os mesmos.
Como nota de rodapé, você pode notar que a média é um valor que minimiza a distância ao quadrado de todos os valores da amostra. Esta é a razão pela qual usamos o desvio padrão junto com ele - são espécies relacionadas!