Eu sugiro verificar sobre: config. Deve haver uma opção browser.tabs.tabMinWidth, ou similar. Definir isso como zero permitirá que as guias continuem sendo esmagadas sem voltar à rolagem de guias.
Ref: link
Editar:
Tendo ido e instalado o Firefox 4 beta 10, parece que foi removido. Eu procurei um pouco e o que finalmente funcionou foi uma modificação do userChrome.css.
Adicione ou crie userChrome.css na pasta do Google Chrome do seu perfil e cole as seguintes linhas:
.tabbrowser-tab {min-width: 016px !important;}
.tabbrowser-tab {clip-width: 016px !important;}
16 pixels é a largura do ícone, portanto, as guias nunca desaparecerão de fato, mas você deve conseguir abrir muitas outras guias antes de rolar a rolagem.