Depois de ler um pouco, descobri como conseguir o que queria.
Quando estou conectado via ssh, corro
$ export DISPLAY=0:0
Isso parece definir a exibição padrão para a exibição do servidor e os programas param de me incomodar por não conseguir encontrar uma exibição para usar.