Поскольку у вас установлено 2 видеокарты, у вас должно получиться запустить 2 дисплея от первой карты и 3 дисплея от второй карты.
Первое, что нужно проверить для устранения неполадок - это адаптеры дисплея в диспетчере устройств. Перейдите к:
Панель управления> Оборудование и звук> Диспетчер устройств
и проверьте, есть ли в списке обе карты. Если ваша материнская плата поддерживает SLI, вам может потребоваться убедиться, что ваш BIOS не настроен для этого, так как у вас нет моста SLI. Затем убедитесь, что у вас установлены последние драйверы дисплея nVidia GeForce:GeForce Driver v342.01.
Я бы посоветовал использовать панель управления nVidia для настройки ваших дисплеев вместо настроек дисплея Windows для более сложных настроек, таких как у вас, так как у него больше опций.