Vamos dividir isso em duas partes.
O primeiro é desafiar a sabedoria comum de que os bancos usam o Oracle sobre o Postgres e o MySQL. Questionar coisas como essa é uma boa ideia, mas, neste caso, as evidências são bastante diretas, pois um Google rápido fornecerá uma lista bastante completa de estudos de caso de bancos Oracle, o Postgres não. Embora eu hesite em dizer que isso é autoritário, ficaria surpreso se o Postgres não estivesse gritando dos telhados se o produto estivesse sendo usado dessa maneira.
Acrescente a isso a massa de evidências anedóticas de que o Oracle (e os outros garotões) é o padrão padrão para esse tipo de sistema e eu sugiro que você precise encontrar evidências sólidas de que não é esse o caso, e não o contrário. por aí.
Eu não contestaria que o Postgres (ou MySQL) está sendo usado pelos bancos, apenas que não está sendo usado para o tipo de missão crítica, alta disponibilidade e sistemas de alto volume dos quais você fala.
E isso passa para a segunda parte. Quais são os requisitos aqui?
Para um sistema ATM, sugiro que você precise de alta disponibilidade e suporte absolutamente de alta qualidade (para quem seus desenvolvedores ligam quando precisam de ajuda às 18h de uma sexta-feira?). Você precisa se perguntar qual plataforma pode fornecer isso.
Se você acredita que pode arquitetar uma solução Postgres / MySQL que atenda a essas necessidades de acordo com os padrões esperados por um banco (lembre-se, essas pessoas são muito conservadoras, em regra), vá em frente, mas suspeito que elas terão dúvidas sobre suporte e confiabilidade e desejará ver alguém usando essa plataforma para esse tipo de solução, em vez de ser o primeiro a assumir esse tipo de risco.
Tenho a impressão de que você quer que o Postgres seja um candidato, e isso é bom, mas é sua reputação em jogo aqui se você estiver fazendo a recomendação, portanto, você deve estar absolutamente confiante de que realmente pode fazer o trabalho e não deixar o que deseja seja verdadeiro nuble seu julgamento.
Por fim, não estou dizendo que nada disso esteja correto em termos de como as coisas devem ser, apenas como são as coisas na minha experiência nos setores bancário e financeiro.