Se eu entendi sua pergunta corretamente, a principal preocupação é a latência versus a taxa de transferência, e essa é uma troca sem solução universal. Para reprodução de áudio ou vídeo, você deseja baixa latência, o que você alcançará com o custo de troca de tarefas mais freqüente, o que significa perda de rendimento. Para um supercomputador executando simulações físicas, você deseja maximizar o rendimento, o que significa menos alternância de tarefas e, portanto, maior latência e tempo de comutação de contexto imprevisível.
Para um exemplo prático, existe um software linux que faz o mesmo que uma caixa digital de efeitos de guitarra. Na configuração, você precisa selecionar um tamanho de buffer manualmente, porque com um buffer maior é menos provável obter cliques de áudio e dropouts, porque há menos interrupções de contexto durante o processamento de áudio, mas você obtém um atraso de áudio notável devido ao buffer Tamanho. Com um tamanho de buffer mais baixo, você pode reduzir esse atraso, mas quanto menor o atraso, mais frequentemente você obterá cliques, pulos e quedas no áudio.