похоже, что кодексы ffmpeg и h264_vaapi сломаны в последней версии 4, потому что они не соблюдают параметр -qp. -qp с любым значением не изменяет битрейт, который ужасно высок. Работает только установка битрейта напрямую -b. Кто-нибудь знает способ обойти это.
Проблема может быть воспроизведена с помощью простой команды: ffmpeg -vaapi_device /dev /dri /renderD128 -i input.mp4 -vf 'format = nv12, hwupload' -c: v h264_vaapi -qp 30 output.mp4