IANAL, mas aqui está minha opinião sobre o que é permitido dentro dos limites da GPL:
distribuir o trabalho combinado "A - B" em público: tudo bem, pode ser feito sob qualquer licença proprietária
crie uma biblioteca wrapper D para C por Y: tudo bem, isso não implica que A precise ser colocado na GPL
use o produto combinado "A - D - C" internamente por Y: também é bom, a GPL não exige a fonte aberta A desde que a combinação não seja distribuída ao público
distribuir o trabalho combinado "A - D - C" em público: isso exigirá que A seja de código aberto e seja submetido à GPL (e não importa se X ou Y distribuíram essa combinação; além disso, se Y quiser fazer isso, eles exigiriam uma licença de distribuição para A de X, é claro)
A questão interessante agora é: a D&C pode ser distribuída separadamente como fonte aberta sob a GPL, A&B (ou apenas A sem B) pode ser distribuída sob uma licença proprietária, e o usuário final substitui B pela D&C sozinho?
Aqui, a modificação final para "AB", que torna A dependente das bibliotecas D & C, é feita pelo usuário final - após a distribuição . Portanto, alguém poderia argumentar que a modificação final é feita apenas internamente pelo usuário final. E parece que isso é realmente possível sem violar a GPL - e o que você obtém é uma combinação de "AC&D" em que A está sob licença proprietária e C&D sob a GPL.
Obviamente, um advogado ou juiz pode ter uma opinião diferente sobre isso. Para obter uma resposta final, acho que você deve esperar até que alguém a experimente e uma segunda a processe.
Eu acho que para a maioria dos sistemas, será difícil criar uma constelação sem projetar "A" desde o início, de forma que funcione perfeitamente com B ou C. E, nesse caso, pode-se suspeitar que A foi de alguma forma derivada de C.
EDIT: pensando um pouco sobre isso, uma situação semelhante me veio à mente: escrever e distribuir plug-ins licenciados GPL para aplicativos de código fechado. Vamos usar, por exemplo, o Photoshop. Não acho que alguém tente seriamente impor a Adobe ao Photoshop de código-fonte aberto apenas porque existem alguns plug-ins da GPL de terceiros. Aqui, nem mesmo uma "lib de wrapper" é necessária, pois existe uma interface bem definida. No entanto, isso mudaria a situação se o Photoshop incorporasse algumas de suas funções centrais a partir de um plug-in de terceiros da GPL? Eu acho que, nesse caso, pode ser realmente difícil decidir onde traçar a linha; nesse momento, o produto de código fechado é um trabalho "baseado" na lib da GPL.
EDIT2: Existem bibliotecas de licença dupla disponíveis, com uma licença GPL para uso não comercial e uma licença proprietária para uso comercial como esta, por exemplo. Portanto, sua "brecha" significaria desenvolver um produto com base nessa lib (usando a versão comercial, para que a GPL não se aplique ao seu produto), entregar seu produto como fonte fechada sem a lib ao público e deixar o final O usuário obtém e instala a versão GPLed sozinho. Nesse caso, acho que o fornecedor da lib terá uma boa chance de processá-lo com sucesso por violação de licença (se você não pagar pela lib, é claro). Vale a pena o aborrecimento? Provavelmente não. Especialmente no exemplo ao qual vinculei, você também teria que comprar a lib, pois o preço não depende de quantas vezes você vende seu produto, mas apenas quantos desenvolvedores estão usando a lib durante o desenvolvimento.
Por fim, devido a esses riscos legais, se eu pretender usar bibliotecas de código aberto em um produto de código fechado, evitaria as bibliotecas de GPL, se possível, e não tentaria fazer uso dessa "brecha". LGPL ou GPL com exceção de vinculação é muito mais seguro ou qualquer tipo de licença de sistema operacional não viral.