Размер менее важен, чем разрешение. Не зная, что такое конкретная видеокарта, довольно сложно сказать. Я мог бы легко запустить 50-дюймовый плазменный экран с разрешением 800x600 от XT, и мне потребовалась бы как минимум карта среднего класса от 3 поколений назад для дисплея 4k любого размера.
Глядя на спецификации выглядит она должна едва быть в состоянии запустить 2 2560x1600 дисплеев. Я бы рассмотрел несколько возможностей - один из выходных контроллеров неисправен, неисправен кабель или есть другое узкое место. Двухканальный DVI, безусловно, должен справляться с разрешением, как и более современные разъемы.
Обновление, безусловно, поможет, если это поможет ослабить слабую или неисправную карту, у меня недостаточно доказательств, чтобы сказать.
С более современной системой или правильной настройкой вы можете использовать комбинацию встроенной и дискретной графики (песчаный мост и далее) или более одной карты. Зависит от вашей настройки и драйверов.