Defina permissões de diretório para que o processo interno não possa "acessar fora"

Como posso configurar permissões para um diretório, para que um programa C compilado e iniciado dentro desse diretório não possa acessar arquivos e diretórios fora desse diretório (por exemplo, via fopen).

Você não pode fazer isso definindo permissões em um diretório.

Sua melhor opção para conseguir isso é usar chroot.

A maneira mais simples seria criar um novo usuário (por exemplo, Cscript) e criar um diretório e associá-lo a esse usuário.

Mas se algum de seus diretórios tiver o sinalizador de leitura definido na posição 'outros' (por exemplo, 777, 755), ele ainda poderá acessar esse diretório. Se você não puder alterar razoavelmente as permissões de todas as outras pastas para não incluir esse sinalizador, provavelmente desejará executá-lo em algum tipo de sandbox ou máquina virtual.