Complicado, isso, pois não há um único estilo consistente seguido por todos os aplicativos. Como você diz, eles são (amplamente) sinônimos.
Na verdade, isso realmente não importa, desde que seu público-alvo entenda o que você quer dizer.
A maior diferença está entre as Propriedades, que geralmente afetam um componente ou objeto, e as outras, que afetam todo o aplicativo.
Seguindo uma orientação aproximada do Visual Studio e de outros produtos da Microsoft:
- Propriedades representam as características de um único componente ou objeto no aplicativo.
- As opções alteram as formas globais pelas quais o aplicativo funciona. Os produtos da Microsoft usam isso para personalizar a barra de ferramentas da interface do usuário, por exemplo. Há uma implicação aqui de que você pode desativar completamente os elementos da interface do usuário (por exemplo, uma interface de usuário "Simples" ou uma interface de usuário "Avançada").
- As configurações e preferências alteram as qualidades de como o aplicativo funciona. A implicação aqui é alterar, não desativar: por exemplo, "Medidas métricas" ou "Medidas imperiais britânicas".
- A configuração geralmente é onde um aplicativo é personalizado para cada usuário ou grupo.
Mas não existe uma regra única.
Eu sugiro que você use Propriedades para características do objeto e Configurações para todo o resto do aplicativo.