Кодирование (и декодирование) h.264 является очень интенсивным процессом и требует большой вычислительной мощности. Простой факт заключается не в том, что ваша камера обладает большей вычислительной мощностью, чем ваш ноутбук (это не так), а в том, что она имеет аппаратное обеспечение, предназначенное для кодирования и декодирования этого типа видео.
В вашем ноутбуке есть процессор общего назначения (ЦП), который во много раз превосходит вычислительную мощность вашей камеры, но он фактически должен эмулировать возможности аппаратного декодера, который использует ваша камера. Как я уже упоминал, это очень интенсивный процесс, и если программное обеспечение, используемое для декодирования видео, плохо написано, оно будет вести себя так, как вы видите.
Большинство современных компьютерных систем имеют выделенную видеокарту, часть которой также предназначена для аппаратного декодирования видео этого типа видео. Позднее это также появилось на процессорах, в частности, процессорах Intel последнего поколения i-серии. Использование этих декодеров снимает нагрузку с вашего процессора, и вы получаете хорошее плавное воспроизведение видео.
Во-первых, я бы попытался использовать другой проигрыватель для ваших файлов, так как поддержка VLC для аппаратного декодирования видео несколько ограничена и может не работать для файлов, которые вы ему предоставляете.
Поскольку это файл .mov, я бы попытался загрузить проигрыватель QuickTime от Apple или Divx Player, так как я считаю, что они могут правильно использовать аппаратный видеодекодер.