Adivinhe aqui que você instalou rstudio-server fazendo o download de uma fonte externa e, em seguida, instalando-a usando dpkg ou GDebi . Então, você está tentando removê-lo usando o comando:
sudo apt-get remove rstudio-server-1.0.143-amd64.deb
Mas, rstudio-server-1.0.143-amd64.deb é o nome do arquivo. O software é instalado como: rstudio-server . Então, o comando correto será:
sudo apt-get remove --purge rstudio-server