Você já o excluiu do seu "idioma do teclado das configurações regionais"? Ou ainda é visível sob os "serviços instalados"? Veja a foto na parte inferior.
Se ele não estiver lá (ou você o apagou) e depois de um reinício ele voltar como um "Serviço Instalado", isso indica outro problema.
Se você excluí-lo de "Serviços instalados", ele não deve voltar.
Mas se você realmente quiser excluir o teclado através do registro, você pode.
Primeiro faça sure o teclado não é nos "Serviços instalados". (Veja a imagem abaixo)
Em seguida, em regedit.exe goto a chave HKEY_LOCAL_MACHINE\SYSTEM\ControlSet001\Control\Keyboard Layouts Layout Text = United States-Dvorak010409
Deve dizer 00010409 à direita. Você pode excluir toda a chave dddd_00010409 . (Você também pode renomear a chave para United States-Dvorak . O Windows não a reconhece novamente como layout de teclado.) Não é necessário reiniciar. Você não poderá adicionar 00030409 United States-Dvorak for left hand novamente.
BTW, há também 0040409 United States-Dvorak for right hand e %code% na minha versão do Windows.

