Eu suspeito que isso seja um problema com o seu VPS. Quem é seu provedor? Qual é a tecnologia subjacente?
Aposto que o Byobu não tem acesso de gravação para /dev/shm
. Tente definir a variável de ambiente em algum lugar que você possa escrever, assim:
$ export BYOBU_RUN_DIR=$HOME/.byobu/run/
$ byobu
Divulgação completa: Eu sou o autor e mantenedor do Byobu .