Com base nas informações fornecidas, você NÃO deve ter sido negado o embarque do seu voo. Você declarou que:
Você não tinha planos de sair da parte lateral do aeroporto de Amsterdã e, como viajava apenas com malas de mão, não seria necessário fazê-lo.
Você tinha e mostrou as informações de voo do seu voo de conexão com a equipe da TK em Istambul.
Seu voo de conexão partiu no dia seguinte, mas isso foi apenas ~ 16 horas depois.
Fatos adicionais que você não mencionou explicitamente são que há apenas um voo da AMS para Quito por dia, sendo aquele em que você foi reservado.
A Holanda permite que um cidadão indiano transite sem visto (TWOV) nas condições que você descreveu acima.
Timatic, que geralmente é a fonte que as companhias aéreas usam para requerer vistos, afirma que:
TWOV (Trânsito sem visto): é necessário visto, exceto para os titulares de passagens posteriores em trânsito pela mesma ou primeira aeronave de conexão:
Ao transitar na primeira aeronave de conexão, você encontra a exceção e, portanto, não precisa de visto.
Eu suspeito que a diferença de data tenha confundido a equipe - o fato de você estar chegando em Amsterdã em um dia e não partir até o dia seguinte não é permitido em algum aeroporto - no entanto, em Amsterdã é, e existem até 2 hotéis ao lado do ar que você poderia passaram a noite sem entrar no país.