A partir do código-fonte você obterá os binários compilados em sua arquitetura, do apt-get ele será compilado para i386 ou ia64. Há um aumento de desempenho nisso (pelo menos em pacotes i386).
E da fonte você pode ajustar a instalação, removendo recursos desnecessários.
A desvantagem é a integração no sistema, se você compila e não faz mais nada e depois você instala um pacote que depende do mysql seu sistema terminará com dois daemons do mysql instalados, já que o apt não sabe disso Há um mysql instalado já.
Você pode usar o apt-build. O Apt-build faz o download das fontes do pacote debian e as compila, adicionando às listas de pacotes instaladas. E você também pode manter atualizações como o apt-get faz.