O nome apropriado do binário gráfico é transmission-gtk e como um aplicativo gráfico para executá-lo como root usando sudo use:
gksudo transmission-gtk
Para trabalhar interativamente no termianl novamente, coloque-o em segundo plano:
gksudo transmission-gtk &