Следующие работы везде, где находится \index,
sed -e 's/\\index{\([^]]*\)}/\\index{}/g' inputfile
кроме того, что ... это работает при условии, что открывающая и закрывающая скобки расположены на одной линии. У sed есть несколько опций (P, N, D) для работы с шаблонами, которые заканчиваются на нескольких строках, но они работают путем объединения двух последовательных строк. Поскольку возможно, что шаблон фигурных скобок {} закрывается в 3,4, .., n, ... строках, это потребует некоторого программирования.
В качестве альтернативы, если вас устраивает просто найти подходящие шаблоны (то есть не подставляя их), вы можете использовать:
pcregrep -M '\{(\s*.*\s*)*\}' test.txt
где опция -M используется для разрешения многострочных шаблонов. Это находит ноль или более вхождений (пробел, сопровождаемый. *, Сопровождаемый пробелом), при условии, что это все окружено фигурными скобками.