O problema é que você usou um transistor NPN em vez do transistor PNP especificado no esquema. Substituir o transistor por um dispositivo PNP deve fazer as coisas funcionarem. Um transistor PNP comum que me lembro da cabeça é o 2N3906, mas provavelmente existem outros dispositivos mais adequados para esta tarefa.
A premissa básica do circuito é que, quando o circuito não é auto-alimentado, o VSELF está flutuando ou a 0 V. Isso faz com que uma corrente seja puxada do VBUS através do emissor e da base e através dos dois resistores para o terra. Para estimar qual deve ser a soma desses resistores, podemos fazer algumas suposições sobre o circuito que são um tanto pessimistas. Diremos que VBUS = 4,5 V e que estaremos consumindo 100 mA, que é um dos níveis de energia do USB. Usaremos a folha de dados 2N3906 para alguns desses números.
VBE=0.8V to 0.9V at β=10 dependendo da temperatura (veja a figura acima)
IB=ICβ=100mA10=10mA
VB=VBUS−VBE=4.5V−0.9V=3.6V
R1+R2=VBIB=3.6V10mA=360Ω
Sem saber o que mais está conectado ao VSELF ou como o VSELF se comporta quando ele não está alimentando o dispositivo, eu estaria inclinado a recomendar que o resistor inferior fosse 330 Ohms e o resistor superior seria 33 Ohms ou omitisse completamente o resistor superior (e o resistor inferior igual a 360 Ohms).