OK, eu realmente não tenho ideia do que está acontecendo com a política de grupo. Ele realmente parece que está desativado para sessões de área de trabalho remota. Isso provavelmente faz sentido se você sabe o suficiente sobre o funcionamento do Windows, mas do meu ponto de vista parece muito com um bug.
Eu encontrei um método de registro para contornar o problema. Essa é uma abordagem antiga e parece fazer o que eu quero:
Defina HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\UsbStor!Start
a 4
(por esta página de ajuda do MS ).
Isso faz com que os dispositivos de armazenamento USB simplesmente nunca apareçam, ao contrário do acesso negado, e o efeito persiste mesmo quando conectado via área de trabalho remota.