O Rekordbox é um software proprietário e a forma como os dados são armazenados não é publicada, tanto quanto eu sei, portanto, o software alternativo teria que fazer engenharia reversa. Como você mencionou, a exportação USB não parece ser suportada no vinho:
Um caminho a seguir seria pensar em uma maneira de contornar isso. Então, faça uma exportação de HDD e veja se os dados são transferíveis para USB. O link winehq tem alguém pedindo ajuda, você pode ver até onde você chega. Outra maneira de andar seria obter o apoio do vinho usb ao nível que o programa precisa.
Talvez não seja uma solução direta, mas a resposta para sua pergunta sobre qual outra ferramenta pode ser usada, acho que é "nenhuma no momento".