Como lg disse, o Debian provavelmente seria um pouco menos complicado de fazer "mínimo" se você iniciar a partir da instalação básica mais o SSH (que é o que a maioria dos provedores VPS lhe dão como ponto de partida), embora você já esteja familiarizado com uma das outras opções eu iria com isso.
Alguns segmentos de código e estruturas de dados acabam tendo mais RAM no código de 64 bits do que no de 32 bits, o que pode fazer a diferença, embora eu espere que essa diferença seja pequena. Você tem a opção, pois os processadores de 64 bits baseados no conjunto de instruções amd64 (isto é, ofertas atuais de AMD e Intel, exceto o Itanium e chips relacionados, se ainda estiverem disponíveis) podem ser executados com 32 bits e 64 bits. código junto com o mínimo de sobrecarga, portanto, na maioria dos sistemas de virtualização, um host com CPUs de 64 bits pode executar VMs com uma combinação de SOs de 32 e 64 bits ao mesmo tempo.
Em apenas 256Mb de RAM, você provavelmente precisará ajustar a configuração do Apache e mySQL para uma operação eficiente, embora haja muitos guias decentes para isso. Ajustar o mySQL (e o Apache) fará muito mais diferença do que a variante do Linux que você procura.
Para reduzir o problema de compatibilidade, basta manter os pacotes fornecidos pelo sistema operacional escolhido. Isso também economizará tempo e complicações quando as atualizações de segurança forem lançadas.
Se você não estiver familiarizado com nenhuma dessas variantes do Linux, sugiro que você "brinque" primeiro com um servidor local antes de tentar configurar um servidor público. Instale o vbox (ou vmware ou similar) e crie algumas VMs de 256Mb, uma para cada SO que você queira experimentar, e dê a elas todas Veja. Um servidor local em uma VM como essa significará que você pode jogar para aprender as cordas sem se preocupar em cobrar taxas administrativas para reconstruir o VPS se você quebrar algo significativo, e essa VM também fornecerá um ambiente de teste útil para quando você estão planejando alterações no seu servidor público e nos serviços que ele executa mais adiante.