Ok, depois de várias semanas de depuração por conta própria e junto com a equipe de suporte da Fila de Mensagens da Microsoft, foi encontrada uma solução.
TLDR; a solução é remover ou renomear a chave de registro
HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\services\<SERVICENAME>\Environment
O motivo do erro é que o cliente MQ não pode localizar um serviço MQ no sistema local - e isso é necessário para se comunicar com um MQ remoto - como um serviço SMTP local que encaminha seus e-mails para sistemas remotos. No entanto, o sistema local não é o nó do cluster, neste caso, mas o "grupo de clusters" e não há nenhum serviço do MQ em execução no grupo de clusters (porque não é um sistema real, apenas um alias). A razão pela qual o cliente MQ procura um serviço no grupo de clusters é que a caixa de seleção "Usar nome da rede para o nome do computador" foi marcada nas configurações do serviço de cluster. Isso adiciona um novo valor no registro de nós do cluster, configurando o ambiente para o serviço. E o verdadeiro problema é que quando esta caixa de seleção é desmarcada, ela não remove o valor do registro, efetivamente tornando impossível limpar a configuração corretamente (a partir da GUI) depois de definida. Portanto, a correção é excluir o valor manualmente com regedit ou regedt.