Você diz que está tentando atualizar o firmware do NodeMCU, mas sua linha de exemplo mostra que você está tentando fazer upload de um arquivo de código-fonte Lua. Se você já exibiu o firmware, minha melhor sugestão seria tentar instalar o Minicom (sudo apt-get instalar o minicom) e usá-lo para confirmar sua conexão no Ubuntu. Algo como "sudo minicom -b 9600 -D / dev / ttyUSB0" deve funcionar.
Se você ainda não usou o firmware, precisará fazer isso primeiro. Conecte o GPIO0 ao terra para colocar o ESP8266 no modo de atualização. Então use esptool para piscar. O comando deve ser algo como "esptool.py -p / dev / ttyUSB0 write_flash [arquivo de firmware nodemcu]". Os arquivos de firmware estão disponíveis no github do NodeMCU.