Как мне избавиться от этой надоедливой кнопки, которая нависает над словами:

Если вы все еще хотите использовать автоматическое форматирование и просто хотите отключить кнопку, вы можете сделать это в параметрах автозамены Word.
Когда появится кнопка Автозамена, щелкните ее и выберите Управление параметрами автоформатирования ...

Перейдите на вкладку « Автозамена » и снимите флажок « Показать параметры автозамены».

(Проверено в Word 2007 и Word 2010 в Windows 7)