Aqui está uma solução, mas você precisará chamar createDeviceEx em vez da função atual.
Você precisará passar uma estrutura SIrrlichtCreationParameters para a função acima, com o membro AntiAlias definido como true (ou outro valor? Parece que a variável é um número inteiro sem sinal e não um bool, nunca percebeu isso). É claro que você terá que definir alguns outros membros da estrutura para ter o mesmo IrrlichtDevice que o da sua pergunta. ;)
Aqui está um código, se você preferir: (aviso: eu não uso o Irrlicht há 1 ano)
SIrrlichtCreationParameters params = SIrrlichtCreationParameters();
params.AntiAlias = true;
params.DriverType = video::EDT_OPENGL;
params.WindowSize = core::dimension2d<u32>(800, 700);
IrrlichtDevice *device = createDeviceEx(params);
Veja aqui (infelizmente não muito) informações. (o documento Irrlicht não é realmente muito útil, infelizmente)
Espero que isso ajude, boa noite! :-)