O FFmpeg / Libav requer um formato "chave = valor", por isso requer um "= 1". Então, para o seu exemplo:
avconv -i input.mp4 -c:v libx265 -x265-params lossless=1 -c:a copy output.mp4
Para confirmar se funciona (via linha de comando) você deve ver o seguinte log:
x265 [info]: Rate Control : Lossless
Refs: