Sed pode usar muitos caracteres diferentes como separadores; você escolheu /, mas / também está presente na string que você deseja substituir. Portanto, eu escolheria:
sed 's:th>file-[0-9]+ /th>:th>S.No name /th>:g' yourfile
Por favor note, no entanto, que se você quiser processar algo mais complexo do que isso, você deve analisar HTML - e não usar regex.