Como exatamente você está tentando adicioná-lo?
Eu suspeito que seu principal problema é que você precisa de citações em torno do nome.
"C:\Program Files (x86)\DotR\DotR.exe" %1
Se você estiver adicionando o valor usando o editor da regedit.exe GUI, como um valor de string, não será necessário escapar dos caracteres \ ou " . A GUI vai lidar com o escape, você só precisa adicionar as aspas.
Se você estiver adicionando-o com um arquivo .reg , então os caracteres \ precisam ser escapados, você também precisa escapar do "caractere. Portanto, um valor REG_SZ de "c:\asdf\asdf" seria semelhante a este.
[HKEY_CURRENT_USER\Temp]
"asdf"="\"c:\asdf\asdf\""