Parece que você tem o número errado de fios para o seu switch funcionar corretamente de acordo com a sua descrição, do jeito que eu o li.
Então vou tentar entender. Quando você retirou o interruptor de três vias, havia três parafusos com três fios? Além disso, talvez sua caixa seja metálica e possua um parafuso de aterramento na parte de trás ou um aterramento em algum lugar, além dos outros três fios?
Sua casa é muito antiga, mas deveria ter sofrido uma atualização elétrica. Então, suponho que o seu cabo tenha um parafuso de aterramento separado?
Estou tentando ver se talvez o fio verde isolado (?) Que você vê seja realmente apenas um viajante por algum tipo de razão. E talvez haja outro fio para o chão na caixa.
Não saber quando sua casa foi religada pela última vez (já que tenho certeza de que você não tem maçaneta e tubo) está me fazendo pensar no que os cabos têm dentro deles.
Você poderia indicar o que estava no interruptor de três vias original? Porque esses devem ser os fios que você usa para o seu novo switch. Eu só quero ter certeza de que você está vinculado (fundamentado em termos mais simples) corretamente.