Eu descobri como fazê-lo, ou pelo menos acho que sim. Se eu estiver errado, por favor me corrija.
Leitura na página 55 do "Volume 2 do Manual do Programador de Arquitetura AMD64: Programação do Sistema" ( link ), para o qual encontrei um link na Wikipédia ( link ), aprendi que o endereço do Recurso Ativar registro, que é onde o bit NXE está localizado, é C0000_0080h, não 0x1a0. Com base nisso, fiz isso:
sudo rdmsr -f 11:11 C0000_0080h
Que retorna um zero (0), que, de acordo com o manual, significa que o bit não está habilitado.
Isso não resolve exatamente o meu problema com a instalação do Windows 8 no Gnome Boxes, mas acho que ele responde à questão de como determinar se o bit NX está habilitado nos chips AMD A6.