Você precisa escrever no modo comando , não normal . Em outras palavras, pressione : primeiro.
:%s/^[^\t]*\zs\t[^\t]*\ze//g
Editar: Para remover a primeira coluna:
:%s/^\S*\s\+//
em que \s
é "espaço em branco" e \S
é seu inverso.