Depois de passar algum tempo, decidi por esta solução:
faça as duas coisas :)
É difícil manter o controle de todas as variáveis de ambiente no pé de feijão elástico (e aparentemente há um número limite, não verificamos esse doh) e é estúpido confiar suas senhas de banco de dados ao controle de versão.
mantém coisas que já são públicas como DB_PORT_5432_TCP_ADDR (DNS público RDS), DB_ENV_POSTGRES_USERNAME (nome de usuário postgres), REDIS_PORT_6379_TCP_ADDR , S3_BUCKET_NAME (depósito de armazenamento de ativos) em Dockerrun.aws.json e sob controle de versão (git)
mas coisas como DB_ENV_POSTGRES_PASSWORD , SECRET_KEY_BASE , MANDRIL_API_TOKEN , AWS_SECRET_ACCESS_KEY como ambientes do Elastic Beanstalk