O formato do prompt está na variável de ambiente PS1 ; Veja a seção bash manpage, prompting para os especificadores de formato.
10:50:39 user@host:1996 ~$ echo $PS1
\t \u@\h:\! \W$
O \W apenas imprime o diretório principal como você (?) deseja. ( \w imprime tudo como você tem agora).
10:50:45 user@host:1997 ~$ PS1='\u@\h:\W$ '
user@host:~$ cd test
user@host:test$ cd testdir/
user@host:testdir$
Você provavelmente desejará salvar o antigo PS1 em uma variável (digamos, $ export OLDPS1=$PS1 ) primeiro para poder restaurá-lo quando terminar ( $ PS1=$OLDPS1 ).