Parece que eu estava enganado, e o byobu não é culpado por esse comportamento.
No meu caso, o efeito de pressionar SHIFT + HOME / END é usado para rolar junto com as teclas SHIFT + UP / DOWN pelo emulador de terminal (no meu caso, mintty).
Desativar essa funcionalidade no próprio mintty resolve o problema.
A razão pela qual eu precisei da funcionalidade SHIFT + UP / DOWN / HOME / END, é para seleção de texto no editor de texto "til".
Curiosamente, se o til é chamado diretamente no terminal (não no byobu), o SHIFT + UP / DOWN / HOME / END funciona como esperado. Mas quando chamado de byobu, ele de alguma forma reverte para o comportamento padrão do emulador.