Esta é uma leitura interessante:
https://en.m.wikipedia.org/wiki/Bracket
A seguir, minhas próprias observações.
Os designers de C tomaram muito cuidado ao adotar o significado de caracteres e construções, pois eram usados há centenas de anos na linguagem escrita regular. E, assim, eles tiveram que trabalhar com o subconjunto bastante limitado de caracteres ASCII. No idioma ocidental, mais caracteres de agrupamento são usados no texto escrito, mas eles simplesmente não o transformaram em ASCII.
Em linguagem regular, o significado de parênteses é fornecer informações adicionais sem interromper a mensagem principal. Isso faz sentido ao chamar um procedimento: a mensagem principal é a ação a ser executada e as sub-informações são os argumentos.
Os chavetas são usadas para agrupar. "Esta coleção de palavras pertence uma à outra e deve ser separada das demais". Portanto, faz sentido usá-los para blocos de código, instruções compostas.
Os colchetes são usados para inserções em texto que não faziam parte do original, para esclarecer o texto original e fornecer contexto. Ou para indicar omissão com reticências: [...]. "Ela [a rainha] não se divertiu". Na programação de computadores, faz um pouco de sentido usar o suporte para a indexação de array, porque é um tipo de contexto fornecido. "Matriz? Que matriz? Bem, especificamente esse elemento." Mas mesmo que o significado original não cubra totalmente o uso em uma linguagem de computador, não existem muitas outras opções no ASCII.
Então, eu diria que é uma combinação da técnica anterior e o que estava disponível na época que levou ao uso de colchetes para indexação de matriz.
[editar por causa do comentário de Alex]
Segundo esta fonte, o ASCII foi introduzido em 1963 e obteve aprovação do governo em 1968. O desenvolvimento da linguagem C não começou até 1969, de acordo com este wiki . Portanto, parece provável que o Sr. Ritchie ficou de olho nesse novo padrão amplamente suportado chamado ASCII ao escolher seus personagens.
Por favor, veja também as outras respostas que defendem Algol, "a mãe de muitas línguas", sendo uma forte influência.