Одним из больших изменений в Windows Vista стало улучшение визуальных возможностей Aero, которое предъявляло гораздо более жесткие требования к видеокарте. Вполне возможно, что видеокарта, установленная на этой новой машине, не сможет поддерживать желаемые разрешения. В любом случае вам почти наверняка понадобится специальная поддержка драйверов или сторонний пакет для включения более высоких разрешений. Некоторые из потоков technet (пример) указывают, что архитектурные изменения в системе отображения сломали предыдущие хаки для этих высоких разрешений, поэтому может пройти некоторое время (если вообще когда-либо), прежде чем вы увидите их поддержку.
Один из вариантов - установить значение DPI менее 100%. Это даст вам меньшие шрифты и виджеты, сохраняя разрешение, соответствующее вашему монитору. Очевидно, этот более низкий параметр DPI был частью интерфейса XP, но был отключен в Vista, поэтому взлом реестра может быть именно тем, что вы ищете.