Você está usando --pidfile=/var/run/calibre-server.pid que informa ao calibre para gravar o arquivo pid em /var/run . O mais provável é que o usuário que está executando o processo User=calibre não tenha acesso para gravar lá. Sugiro que você remova --pidfile , já que não está usando.
Se você quiser usá-lo, altere o caminho para um diretório gravável pelo usuário calibre e adicione PIDFile=/dir/with/pidfile/calibre-server.pid antes da sua linha ExecStart e, como mencionado acima, adicione também Type=forking