Você pode usar a seguinte configuração de registro para removê-lo:
[-HKEY_CLASSES_ROOT\CLSID\{540D8A8B-1C3F-4E32-8132-530F6A502090}]
@="Language bar"
"MenuTextPUI"="@%SystemRoot%\System32\msutb.dll,-325"
[HKEY_CURRENT_USER\Software\Microsoft\Windows\CurrentVersion\Policies\Explorer]
NoSaveSettings"=dword:00000000
Depois de fazer isso, você pode criar um modelo administrativo a partir dele e implantá-lo (instruções em esta base de conhecimento artigo).