Puro e simples, pense em desenvolver um banco de dados sem um ERD como construir uma casa sem um plano de construção. Pode ser possível porque você acha que simplesmente colocar um tijolo um sobre o outro é suficiente para construir algo; no entanto, no momento em que outra pessoa assume a responsabilidade pelo projeto, há um potencial de desastre.
Na minha experiência, você não se beneficiará muito dos ERDs, a menos que os use em conjunto com as ferramentas CASE (ERWin, MySQL Workbench etc.), que também permitirão a você executar algumas operações realmente úteis, como engenharia direta e reversa. Mesmo sem essas funções, ter um esquema centralizado do banco de dados completo é útil porque às vezes as restrições implementadas no próprio banco de dados não são suficientes para contar a história completa sobre os relacionamentos entre entidades específicas do banco de dados.
Aqui está um exemplo envolvendo o MySQL que, como você deve saber, implementa vários mecanismos de armazenamento interno, principalmente MyISAM e InnoDB. Existem diferenças significativas entre elas, uma das mais importantes, sendo que o MyISAM não suporta restrições. Apesar disso, o MyISAM é muito usado em aplicativos da Web, o que significa que a lógica relacional precisa ser implementada por meio da lógica de negócios (código do aplicativo) ou de outra maneira. O problema é quando você encaminha um engenheiro de ERD com tabelas (entidades) MyISAM. O MySQL silenciosamente ignora as restrições definidas pelo ERD e você termina com um banco de dados que não identifica claramente a natureza dos relacionamentos entre as entidades. Em outras palavras, depois de desenvolver o layout do banco de dados, não há como os desenvolvedores de código implementarem a lógica de negócios adequada sem um ERD.