Primeiro, você não deve ter cegamente o Python 2 no Linux. Muitas distribuições hoje em dia não precisam disso e só o instalam por motivos de compatibilidade. Se o sistema operacional vier pré-instalado com ele, mantenha-o, mas, caso contrário, não o faça para instalá-lo, a menos que você tenha algum software que realmente precise dele. Alguns sistemas Linux não têm mais por padrão (Arch, por exemplo).
Além disso, conforme sugerido nos comentários, instale apenas as versões que você realmente precisa. Em outras palavras, se você não tem nenhum software usando a versão X.Y do Python, e o sistema operacional não o instalou automaticamente, não o tenha instalado em seu sistema. Este conselho aplica-se em geral a quase todas as linguagens de programação. Mais código se traduz em mais possibilidades de um invasor explorar um bug.
Com base nesse conselho, com um exemplo do mundo real:
Nos meus sistemas Gentoo, atualmente tenho o Python 2.7, 3.6 e 3.7.
- Eu preciso do Python 2.7 porque tenho alguns pacotes que requerem o AsciiDoc para sua documentação, e isso só funciona com o Python 2.7.
- Eu preciso do Python 3.6 porque essa é a versão primária suportada por quase todos os outros códigos no meu sistema (e, de fato, pela maioria dos pacotes relacionados ao Python no Gentoo atualmente).
- Eu preciso do Python 3.7 para novos trabalhos de desenvolvimento e testes.
Eu poderia, teoricamente, ter o Python 3.4 e 3.5 instalados nesses sistemas, mas não o faço porque tenho exatamente zero software que precisa de qualquer um deles.