I'm no networking wizard, so that's why I'm asking here: why can't I connect to PostgreSQL (localhost) when I'm actively connected to my VPN provider?
Você configurou sua instalação do PostgreSQL para permitir somente conexões localhost.
what commands/steps can I use to show exactly why?
Modifique pg_hba.conf para incluir uma entrada para o seu endereço IP ExpressVPN
host all all xxx.xxx.xxx.xxx trust
Eu não sugiro que você forneça a todos os usuários locais e do banco de dados que se conectam ao seu servidor usando o acesso do endereço VPN ao seu banco de dados. Se você quiser que seja esse o caso, altere o xxx.xxx.xxx.xxx
para o endereço IP do ExpressVPN e qualquer usuário poderá se conectar ao seu servidor de banco de dados.