Na minha experiência com ext3, XFS e reiserfs, não houve diferença no suporte a Unicode.
Tudo que você precisa fazer é definir o seguinte na seção [global] do seu smb.conf
UNIX CHARSET = UTF-8
DISPLAY CHARSET = UTF-8
DOS CHARSET = CP850
(ou CP437 ou o que você gosta, isso é usado quando se fala de clientes DOS ou Win9x / 3.x).
Além disso, você pode ler o link