Eu sei disso porque eu fiz isso apenas para "Editar com VbsEdit", uma alteração personalizada para o tipo de arquivo .vbs. Isso funcionou em uma máquina com Windows 7, depois que criei cada chave de ".vbs" para "Command":
[HKEY_LOCAL_MACHINE\SOFTWARE\Classes\SystemFileAssociations\.vbs\Shell\Edit with VbsEdit\Command]="C:\Program Files (x86)\Vbsedit\Vbsedit.exe" "%1"
Obviamente, para sua pergunta, use:
[HKEY_LOCAL_MACHINE\SOFTWARE\Classes\SystemFileAssociations\filetypename\shell\Open\Command]="C:\Path\OpenProgram.exe"
... e "C: \ Path \ OpenProgram.exe" é o caminho completo para o abridor padrão desejado.