Захватить как вектор? Нет, конечно нет. У программы захвата нет возможности узнать что-либо о геометрии фигур на экране, не имея какого-то рода крючка в программах, выполняющих рисование.
Однако вы можете сделать снимок растра и затем преобразовать его в вектор. Существуют такие инструменты, как Inkscape, которые могут выполнить это преобразование (хотя обычно вам придется вручную вносить некоторые изменения, и даже тогда вы редко сможете получить идеальные по пикселям результаты).
Что касается разрешения, то при выполнении захвата оно не может захватить больше информации, чем доступно. Вы можете изменить размер получающегося изображения, и если вы используете хороший алгоритм масштабирования, интерполированные пиксели будут смешиваться довольно хорошо, но нет способа изобрести больше информации о пикселях, чем есть.
Теоретически можно было бы реализовать какую-то систему, в которой все отображается внутри с более высоким разрешением, а затем отправляется на экран с меньшим разрешением, но для этого потребуется специальная поддержка как в ОС, так и в накопителе. маловероятно, что он будет реализован, поскольку он имеет очень ограниченное использование и в большинстве случаев будет пустой тратой памяти.
Вы можете использовать панорамирование на рабочем столе, чтобы получить рабочий стол с более высоким разрешением, чем экран, но опять же, это требует, чтобы ваши драйверы поддерживали его.