Um adaptador serial para PS2 provavelmente não é apropriado aqui e talvez seja a fonte de seus problemas. Esse adaptador não faz nenhuma conversão. O tipo de mouse com o qual ele trabalha sabe como se comunicar através de uma porta serial e uma porta PS2 e o adaptador apenas adapta fisicamente o conector.
O seu scanner de código de barras provavelmente não sabe falar PS2. O que você deve fazer depois é ligá-lo a uma porta serial e tentar um monte de strings diferentes, começando com 2400 ou 9600 baud e 8N1 ou 7E1. Quando você está obtendo um padrão consistente toda vez que digitaliza o mesmo código de barras, sabe que está acessando alguma coisa.