Os comentários no arquivo prefs.js:
# Mozilla User Preferences
/* Do not edit this file.
*
* If you make changes to this file while the application is running,
* the changes will be overwritten when the application exits.
*
* To make a manual change to preferences, you can visit the URL about:config
* For more information, see http://www.mozilla.org/unix/customizing.html#prefs
*/
Dito isto, você deve poder editar o arquivo com o aplicativo fechado , e as novas configurações entrarão em vigor quando ele for iniciado.
Dependendo de qual (is) configuração (ões) você deseja modificar, no entanto: não acredito que as opções de registro ou linha de comando forneçam as mesmas configurações. As configurações do registro são mais específicas do sistema e não por usuário; e os parâmetros de linha de comando lhe darão opções de instâncias específicas para o aplicativo, como tamanho da janela e quais perfis carregar, etc.
Se você souber a configuração específica que deseja alterar, poderá procurá-la no arquivo prefs.js com um regex (usando o VBScript seria minha escolha) gravar um novo arquivo com a configuração de substituição e renomear / excluir arquivos para que o novo prefs.js substitua o anterior.