Если ни одно приложение не использует ОЗУ, то оно куда-то направляется в операционную систему. Это был бы файловый кеш или драйвер.
Видеодрайвер был бы вероятным виновником. Просто наличие последней версии ничего не гарантирует, потому что каждая ошибка была новой. Это может быть даже комбинация с вашим оборудованием: Radeon 4850 на данный момент довольно стар, и AMD может не проводить тщательного тестирования драйверов с этим оборудованием.
Файловый кеш должен отображаться в диспетчере задач. Возможно, что при воспроизведении видео файл будет считан в память при подготовке к воспроизведению видео.
Возможно, использование ОЗУ не имеет ничего общего с вашей проблемой. Каждая система Vista, которую я видел, сообщает, что использование ОЗУ было очень высоким. Это связано с тем, что Vista использует как можно больше оперативной памяти для кэширования программ, DLL и файлов. Обычно это не проблема, потому что эта кэшированная память легко сбрасывается, чтобы освободить место при необходимости.