Isso provavelmente está relacionado à implementação do Adobe Flash (no Ubuntu, ou mesmo em geral); enquanto os codecs de vídeo usados pelo youtube são padronizados, a forma como eles são implementados depende da Adobe e pode ser uma implementação ruim e / ou uma que use a GPU excessivamente.
Comparado a isso, a maioria dos aplicativos de vídeo Linux / Ubuntu usa os codecs de código aberto FFmpeg / libavcodec para decodificar vídeo, e eles geralmente fazem um bom trabalho - no seu caso, aparentemente melhor que o Flash proprietário!
Alternadamente , você sempre pode dar uma chance ao Flash desativando a aceleração de hardware (os gráficos na pergunta mostram que o SMPlayer está usando a decodificação de software). Full-screen o vídeo em flash (é um bug), clique com o botão direito, vá para Configurações e desabilite:
