Em vez de parar o daemon, basta iniciá-lo, editar o arquivo e usar /etc/init.d/transmission-daemon reload
.
Também sugiro que você use sudo
/ su
para editar seu arquivo se não estiver logado como root. O comando completo seria: sudo nano /etc/transmission-daemon/settings.json
. Ele pedirá sua senha.