O que você precisa fazer é simplesmente remover o deslocamento DC, não fornecer um negativo. Isso é conhecido como acoplamento CA. Se você executar a saída do seu gerador de ondas quadradas no capacitor em série, ele deverá fazer o que você precisa. No entanto, isso custará menos ondas quadradas.
Um exemplo de circuito é mostrado abaixo para você:

E a saída ficaria assim (Traço Verde = Saída do Gerador, Traço Azul = Tensão no Resistor):

Você provavelmente terá uma pequena perda de tensão (o que significa que seus picos serão um pouco menores que +/- 2,5V), já que nenhum capacitor é ideal, mas você pode obter uma boa saída de onda quadrada se conseguir o capacitor de valor certo. Você terá que experimentar e ver. Normalmente, quanto maior o valor do capacitor que você escolher, mais próxima a sua forma de onda de saída estará do original para qualquer frequência que um gerador de ondas quadradas de bancada esteja produzindo.