As variáveis não são expandidas quando colocadas entre aspas simples. Use aspas duplas:
sed -i "s/test/"$USER"/g" ~/.gtkrc-2.0
Além disso, é uma boa ideia fazer um backup ao modificar o arquivo:
sed -i.bak "s/test/"$USER"/g" ~/.gtkrc-2.0
O arquivo original será mantido como ~/.gtkrc-2.0.bak
, o modificado será ~/.gtkrc-2.0
.