Você terá que desinstalar o Xamarin player AND Virtualbox completamente.
Em seguida, remova todos os vestígios de ambos que podem ter sido deixados para trás (Revo Uninstaller é uma boa ferramenta para isso).
Se você tem um ponto de restauração do sistema que data de antes de tentar instalar o Xamarin, pode ser menos complicado voltar para isso.
Reinicie e depois PRIMEIRO, instale o Xamarin, depois o VirtualBox.
Versão mais antiga PRIMEIRO.
É possível que essa combinação também não funcione. Se for esse o caso, você terá que desinstalar novamente ambos completamente e, em seguida, decidir qual deles você realmente precisa e apenas instalá-lo.
Por favor note: Como você tem tentado várias versões do VirtualBox sem desinstalar qualquer um deles, é possível que a instalação do Windows já esteja danificada ao ponto de não ser mais possível voltar ao estado limpo. Se for esse o caso, esperamos que você tenha um ponto de restauração antes dos problemas de tempo iniciados. Se não for necessária uma reinstalação ...