A grande maioria dos banhos públicos é separada por sexo, portanto, embora ainda existam banhos mistos, é improvável que você encontre um por acaso.
Normalmente, nenhum traje de banho (ou qualquer outra coisa) é permitido, pois os japoneses consideram que isso estragaria a água (nem seu cabelo pode tocar a água, em particular). Novamente, alguns lugares especiais podem permitir trajes de banho por um motivo ou outro, mas você precisaria procurá-los especificamente.
Fora isso, a etiqueta é praticamente a mesma de qualquer outro lugar do Japão: seja discreto. Sem correr, sem gritar, etc. Apenas imite as pessoas ao seu redor e você ficará bem.
Editado para adicionar: Talvez isso tenha ênfase: não existe uma regra especial para mulheres (ou homens) estrangeiros. Embora exista a tolerância usual para uma certa quantidade de comportamento "não japonês", isso não chega a permitir que você use seu maiô. Você pode considerar usar sapatos dentro de casas ou santuários / templos.