Diferentes sistemas de arquivos possuem diferentes características de desempenho. Por exemplo, o ReiserFS (que não é mais uma opção de tempo de instalação para o Ubuntu) tem a reputação de funcionar bem com arquivos pequenos, enquanto o XFS funciona bem com arquivos grandes. Sistemas de arquivos registrados (como todos os sistemas de arquivos Linux atuais, incluindo ext4fs e Btrfs) se recuperam rapidamente após uma queda de energia, enquanto sistemas de arquivos não journaled (como ext2fs e FAT) demoram muito tempo para consertar após uma queda de energia. O Btrfs possui recursos avançados que são semelhantes àqueles fornecidos pelas configurações de RAID ou LVM, como striping e snapshot.
Eu não estudei dados recentes de benchmark do sistema de arquivos e, em particular, não sei como o ext4fs e o Btrfs se comparam - que tipos de cenários de uso seriam melhores para cada sistema de arquivos. O Btrfs é certamente um sistema de arquivos mais avançado, e se você precisar de recursos como snapshots, pode ser uma boa escolha em partições que precisam desses recursos. Isso é algo que você precisa avaliar com base em suas necessidades específicas; você não forneceu informações que seriam úteis para fornecer conselhos sobre essa pontuação.
Como outros já notaram em seus comentários, o uso de dois sistemas de arquivos per se não afetará significativamente o desempenho - as considerações extras de driver e cache são triviais no hardware moderno. Eu ficaria mais preocupado se a mudança de ext4fs para Btrfs é apropriada para seu /home especificamente. A resposta pode depender de quais tipos de arquivos você armazena, como você acessa esses arquivos, que Btrfs- características específicas que você pretende usar, o tamanho da partição, etc. Como eu disse, não estou familiarizado o suficiente com os detalhes para fornecer muitos conselhos, mesmo se eu soubesse as respostas para essas perguntas; mas você pode querer fazer uma pesquisa na Web para aprender mais sobre as características de desempenho dos dois sistemas de arquivos.