Bem, descobri o problema graças ao site .
A opção de configuração browser.tabs.insertRelatedAfterCurrent
afeta apenas as guias abertas por um link da guia atual (daí o "relacionado").
Parece que, para contornar esse comportamento padrão do Firefox, um complemento como guia Controle é necessário.