Sim, você pode, mas isso seria uma péssima ideia.
Se você executar:
sudo apt-get remove 'apt.*'
apt
mostraria o aviso:
WARNING: The following essential packages will be removed.
This should NOT be done unless you know exactly what you are doing!
Mas, novamente, você pode executar a operação, pois as tarefas de nível inferior serão realizadas por dpkg
.