Eu tive o mesmo problema e consegui consertá-lo, definindo os padrões tanto para o gvfs quanto para o xdg.
verifique os padrões com:
xdg-mime query default x-scheme-handler/magnet
gvfs-mime --query x-scheme-handler/magnet
e defina-os com
xdg-mime default qBittorent.desktop x-scheme-handler/magnet
gvfs-mime --set x-scheme-handler/magnet qBittorrent.desktop
Supondo que você tenha um arquivo qBittorrent.desktop em / usr / share / applications /