Você pode substituir uma unidade física de um zpool. Dê uma olhada neste tutorial feito pela Oracle.
Substituindo um dispositivo em um pool de armazenamento do ZFS
Howerver de acordo com a página man do zpool (snv_92):
zpool remove pool device ...
Removes the specified device from the pool. This command
currently only supports removing hot spares and cache
devices. Devices that are part of a mirrored configura-
tion can be removed using the "zpool detach" command.
Non-redundant and raidz devices cannot be removed from a
pool.
Portanto, se você acidentalmente adicionar um dispositivo a um zpool, precisará fazer o backup de tudo e recriar o pool.