Até onde eu sei, isso não é possível, pois o Firefox não aceita comandos para controlar a janela. Isso também é (principalmente) responsabilidade do gerenciador de janelas, então duvido que algum dia haverá parâmetros para fazer isso. No entanto, você pode controlar a janela com wmctrl , mas isso será um pouco difícil:
#!/bin/sh
firefox -new-instance -new-window "http://www.reddit.org" &
# Process ID of the process we just launched
PID=$!
# Window ID of the process...pray that there's
# only one window! Otherwise this might break.
# We also need to wait for the process to spawn
# a window.
while [ "$WID" == "" ]; do
WID=$(wmctrl -lp | grep $PID | cut "-d " -f1)
done
# Set the size and location of the window
# See man wmctrl for more info
wmctrl -i -r $WID -e 0,50,50,250,250
Pode haver maneiras mais inteligentes de fazer isso, e há alguns problemas de interoperabilidade com o Firefox (por exemplo, que nenhuma outra instância está em execução), mas isso deve ajudá-lo.