Você precisa salvar a tabela de partições modificada e sair de fdisk (usando o comando w em fdisk ) e retornar ao shell antes de executar mkfs.ext2 ou qualquer outro programa.
Note que a formatação de um dispositivo de bloco requer privilégios de root, então você precisará usar sudo com ele também, por exemplo
sudo mkfs.ext2 /dev/sdb4