Isso pode ser algo muito frustrante, às vezes um site não pode ficar atualizado por vários motivos, embora, para obter a melhor ajuda, inclua a versão completa, como 2.5.9 ou algo assim. Se você já removeu extensões como uma possibilidade, uma versão mais antiga do Joomla pode ser o motivo.
Já vimos algo semelhante em nossos sites antes, estava em um servidor compartilhado? Isso pode acontecer mesmo em um site limpo em um servidor compartilhado; se uma conta no servidor compartilhado for atingida, isso poderá comprometer todo o servidor. Também não há muito que você possa fazer sobre isso, nada que o Joomla tenha pode impedir essa exploração e é uma das razões pelas quais hosts compartilhados podem ser problemáticos. Embora isso dependa do host, sites como siteground ou hostgator são muito bons em manter sua infraestrutura intacta.
Portanto, eu recomendaria fazer uma varredura de malware para ver o que é coletado, provavelmente se eles atingirem seu banco de dados dessa maneira, e então eles terão muitos arquivos injetados. Nesse caso, é melhor restaurar a partir do backup e atualizar, depois a verificação de malware.
Além disso, consulte as ferramentas administrativas da akeeba, que possui algumas ferramentas úteis para proteger seu site.