У меня есть набор данных, который состоит из файлов JPG размером 100-300 КБ с общим размером ~ 100 ГБ. Который я хочу прочитать быстро и в случайном порядке. У меня есть сервер с материнской платой ASUS x99-E WS с x4 1080Ti на нем. Я хочу установить SSD (960 EVO Samsung) с M.2 из-за его скорости. Но я хочу знать, как этот SSD повлияет на мои графические процессоры? Это значительно уменьшит скорость соединения CPU <-> GPU или даже отключит некоторые из 1080?
2 ответа
Походит на установку Машинного обучения. Пропускная способность 1080Ti очень высока, гораздо больше, чем нужно для машинного обучения. Он рассчитан на игры с 4K, 60 FPS и 16 дорожками.
Так что да, вы, скорее всего, столкнетесь с теоретическим замедлением, так как не хватает линий PCI-e. Вам понадобится AMD Threadripper, чтобы управлять таким количеством карт с таким разрешением и частотой кадров. На платформе X99, с общим количеством 28 линий, вы не можете даже дать 8 линий для каждой карты.
Но для машинного обучения большая часть времени уходит на математику. Скорость обмена данными между процессором и графическим процессором намного меньше предела. В конце концов, вы получаете входные данные только с одного SSD, так что, скорее всего, это будет предел. И даже если сам SSD не будет ограничением, слот M2 ограничен только 4 полосами, поэтому наличие 4 полос в направлении каждого 1080Ti также не является проблемой.
[править] Проверяя особые настройки Asus X99-WS, он, похоже, использует две микросхемы PLX для мультиплексирования линий 2x16 в линии 4x16 по направлению к 4 графическим процессорам. Это означает, что каждый может достигнуть скорости взгляда x16, но не одновременно. Все еще не имеет значения, это остается узким местом M2.
Очевидно, что материнская плата имеет чип PLX, обеспечивающий 48 дополнительных линий PCI-E. Таким образом, даже если все эти карты работают с 16x, у вас должно быть 24 или 12 свободных линий (в зависимости от вашего процессора).