Ok, Eu resolvi meu problema, foi assim que eu fiz:
docker run -i -t ubuntu /bin/bash
Então eu olhei para os logs nginx que indicavam um problema com o servidor upstream do php do PHP como mostrado acima
tail -f /var/log/nginx/*
Por fim, reinicio o serviço php5-fpm
service php5-fpm restart
Então, finalmente, meu problema é que durante a instalação do serviço de contêiner foi lançado, mas com erro de configuração do php e, portanto, reiniciar o serviço recarregou a configuração do php5-fpm