Tente o seguinte:
gconftool-2 -t string -s /desktop/gnome/url-handlers/magnet/command "/usr/bin/deluge '%s'"
gconftool-2 -t bool -s /desktop/gnome/url-handlers/magnet/needs_terminal false
gconftool-2 -t bool -s /desktop/gnome/url-handlers/magnet/enabled true
Altere /usr/bin/deluge
para o local correto do seu sistema.