O parâmetro "CompressionType" parece aceitar apenas strings em letras minúsculas max , rápido e none .
Use o seguinte comando:
New-WindowsImage -CapturePath K: -ImagePath C:\VHDImports\Win764.wim -name "BigHomies Personal Image" -Verify -CompressionType max