Похоже, вы меняете неправильные настройки службы регистрации доменов. На основании сообщения об ошибке вы пытаетесь изменить серверы имен для всего домена, то есть серверов, которые содержат всю информацию о вашем домене и его поддоменах. Это не то место, куда идут адреса Heroku, и они даже явно говорят об этом в документации "пользовательских доменов":
Heroku не предоставляет услуги регистрации домена (для регистрации пользовательского имени домена) или службы DNS-провайдера (для размещения DNS-серверов, которые указывают ваше пользовательское доменное имя на ваше приложение).
Поэтому вам нужно сохранить настройки "сервера имен" там, где они в данный момент находятся (я предполагаю, что ваш регистратор предоставляет бесплатный DNS-хостинг, потому что почти все они это делают).
Вместо этого найдите область "управления записями" или "поддоменов" у своего регистратора (в которой приведена таблица доменов / поддоменов и связанных адресов) и измените только записи A / AAAA / CNAME определенного (под) домена, чтобы они указывали на Heroku.