Crie uma nova máquina virtual, defina o tipo para o Windows XP, adicione um disco virtual (tipo: IDE é recomendado), anexe uma ISO de instalação do Windows XP à unidade de CD-ROM e inicie a máquina. A instalação será executada normalmente dentro do convidado. Depois que o sistema operacional for instalado, é recomendável instalar o Virtualbox Guest Additions dentro da VM guest.
Como alternativa, se você deseja testar versões antigas do IE, pode fazer o download de máquinas virtuais pré-criadas do link