Eu corri para este segmento quando a pesquisa problema muito semelhante, mas o meu env var é ERLANG_COOKIE, depois que eu mudei para usar RABBITMQ_ERLANG_COOKIE, está funcionando como um encanto
Aí vem meu docker-compose sobre rabbitmq, $ {HOST} será substituído pelo valor definido no arquivo .env que fica na mesma pasta que docker-compose.yml
rabbitmq:
image: rabbitmq:3-management
ports:
- "15672:15672"
- "25672:25672"
- "5672:5672"
- "4369:4369"
environment:
- RABBITMQ_ERLANG_COOKIE='takeMyCookies'
hostname: "${HOST}"
Dê uma olhada no valor do cookie
root@prod-03:/# cat ~/.erlang.cookie
'takeMyCookies'
root@prod-03:/# cat /var/lib/rabbitmq/.erlang.cookie
'takeMyCookies'