Isso porque você usou useradd em vez de adduser para criar o novo usuário. No Ubuntu por padrão useradd define o shell padrão do usuário como /bin/sh ( dash ), enquanto adduser define como /bin/bash . E /bin/sh não tem readline support, daí o comportamento inesperado com a seta para cima.
Você só precisa mudar para bash digitando bash .
Para alterar o shell padrão do novo usuário para bash use:
chsh -s /bin/bash
enquanto estiver logado como novo usuário ( admin ).