O primeiro comando que você forneceu tentará extrair dois ou três arquivos:
someFolder/H
someFolder/D
video1.mp4
Se você colocar o nome do arquivo entre aspas simples ( ' ), o programa tar verá o [HD] e o processará como um curinga glob que significa " H ou D ". Por isso, tentará extrair dois arquivos:
someFolder/H video1.mp4
someFolder/D video1.mp4
Citando o nome de arquivo e usando o --no-wildcards flag irá suprimir essas tentativas de expansão:
tar -xC / -f /tarFile.tar 'someFolder/[HD] video1.mp4' --no-wildcards