No Windows XP, você pode fazer isso facilmente com o WMIC, o WMI Console. De um comando propt, digite o seguinte:
wmic Path win32_process Where "CommandLine Like '%-jar selenium-server.jar%'" Call Terminate
Editar:
Eu substituí o alias ' processo ' pelo caminho completo (' caminho win32_process