A documentação do Rsymphony indica que precisa de bibliotecas e cabeçalhos SYMPHONY:
No Ubuntu, estes parecem ser fornecidos pelo pacote coin-libsymphony-dev . Instalando isso, usando seu gerenciador de pacotes GUI favorito ou a partir da linha de comando usandoNeedsCompilation: yes SystemRequirements: SYMPHONY libraries and headers
sudo apt install coinor-libsymphony-dev
deve resolver o problema.