Não configure isso no Nginx, configure isso no servidor de aplicativos.
A documentação do proxy reverso do RocketChat tem uma observação sobre isso:
Note: You must use the outside https address for the value at ROOT_URL in [[Section 3 Deploy-Rocket.Chat-without-docker#3-download-rocketchat]] above. This includes the https:// and leave off the port number. So instead of ROOT_URL=http://localhost:3000 use something like https://your_hostname.com
Então, edite sua configuração do RocketChat e defina
ROOT_URL=http://home.example.com/rocket/
Depois disso, não há necessidade de mexer com a configuração do Nginx sobre isso.