A sintaxe está geralmente correta, mas você precisa dar ao Wine um caminho mais explícito para o seu executável. Você pode ver o que está acontecendo no erro de retorno:
>>> subprocess.call("wine someexecutable.exe inputfile outpufile", shell=True)
wine: cannot find L"C:\windows\system32\someexecutable.exe"