Depende do software - você pode fazê-lo funcionar nativamente, mas não podemos dizer se ou como isso funcionaria.
Se for um material antigo de 16 bits e você quiser executá-lo em um sistema operacional moderno de 64 bits, sua única opção é usar uma VM e, se desejar, executar uma cópia do XP na VM (independentemente da Solução VM usada), você precisa de uma licença para a cópia do XP que você está usando.
Além disso, a solução de VM escolhida por você decidirá em grande medida em quanto você passará em um dispositivo periférico USB serial para a VM. Portanto, espere tentar múltiplos e que nenhum deles seja realmente capaz de passar o hardware do host para a VM (dependendo do periférico) com sucesso (isso é uma ruína do uso da VM).