O Burg não está nos repositórios oficiais do Ubuntu, para instalá-lo você deve primeiro adicionar o PPA do Burg.
para fazer isso, execute os seguintes comandos
entrar no modo super usuário
sudo -s
adicione o repositório burgs
add-apt-repository ppa:n-muench/burg
atualize seus repositórios e instale o burg
aptitude update
aptitude install burg burg-themes