Вопросы с меткой [parallel-processing]

Запуск нескольких команд (или даже компьютеров) параллельно для большей эффективности.

64
голоса
4ответа
14k показов

Как мой компьютер может использовать 300% вычислительной мощности ПК?

Я играю со сценарием, и я очень увлекся (он все еще работает, и все же мой компьютер еще не умер). Я запускаю 17 итераций сценария (с целью сбить мой компьютер). Глядя на монитор активности, я вижу, ...
30
голосов
9ответов
34k показов

Распараллеливание rsync

Я просто переехал и обнаружил после некоторой проб и ошибок, что где-то между моим домом и моим удаленным сервером происходит некоторое регулирование ... но регулирование не очень разумно. Это только ...
21
голос
0ответов
3k показов

Вывод на консоль Jenkins в реальном времени для команды параллельной нити

У нас есть команда фабрики Python, которая выполняется параллельно на нескольких хостах, что-то вроде этого: $ fab --hosts=prod1.server,prod2.server,prod3.server --parallel copy_cache Это скопирует ...
19
голосов
7ответов
18k показов

Параллельное выполнение команд с ограничением количества одновременных команд

Последовательный: for i in {1..1000}; do do_something $i; done - слишком медленно Параллельно: for i in {1..1000}; do do_something $i& done - слишком большая нагрузка Как выполнять команды ...
16
голосов
5ответов
29k показов

Является ли более высокое число ядер или более высокая тактовая частота более полезными для производительности компьютера?

С уменьшением стоимости кремния и растущими потребностями потребителей производители, похоже, настаивают на одном из двух: тактовая частота и / или количество ядер. С ходом дела не похоже, что ...
13
голосов
5ответов
98k показов

Можно ли объединить вычислительную мощность 2 компьютеров?

Вот несколько вопросов, я бы хотел, чтобы вы меня просветили. Можно ли объединить вычислительную мощность 2 компьютеров? Как мне это сделать?
13
голосов
6ответов
19k показов

Какой лучший способ выполнить параллельное копирование в Unix?

Мне обычно приходится копировать содержимое папки в сетевой файловой системе на мой локальный компьютер. В удаленной папке много файлов (1000 с), которые все относительно малы, но из-за сетевых ...
11
голосов
6ответов
24k показов

Запуск нескольких параллельных фоновых процессов, а затем ожидание завершения всех из них в Windows

Кто-нибудь знает, есть ли cmd-скрипт, который делает это и / или инструмент командной строки, готовый к работе?
11
голосов
3ответа
18k показов

Netcat как многопоточный сервер

Я использую netcat для запуска простого сервера, подобного этому: while true; do nc -l -p 2468 -e ./my_exe; done Таким образом, любой может подключиться к моему хосту через порт 2468 и поговорить с ...
11
голосов
4ответа
14k показов

Параллельные петли оболочки

Я хочу обработать много файлов, и, поскольку у меня здесь куча ядер, я хочу сделать это параллельно: for i in *.myfiles; do do_something $i `derived_params $i` other_params; done Я знаю решение ...
11
голосов
3ответа
9k показов

Убить процесс после того, как ему позволили какое-то время

Я хочу ограничить время, в течение которого команда процесса grep может запускаться или работать. Например. Я хочу выполнить следующее: grep -qsRw -m1 "parameter" /var Но перед запуском команды grep ...
8
голосов
1ответ
4k показов

Сортировка - параллель не распараллеливает

Я пытаюсь сделать уникальный набор строк, извлеченных из файла с помощью egrep с помощью sort -u, а затем сосчитать их. Около 10% строк (все 100 символов из алфавита [ATCG]) дублируются. Есть два ...
7
голосов
5ответов
20k показов

Превзошли ли сегодняшние настольные ПК IBM Deep Blue 1997 года?

Мне было интересно, превзошел ли мой компьютер вычислительную мощность Deep Blue, который классно выиграл у чемпиона мира среди людей Гарри Каспарова. Какова была скорость обработки Deep Blue по ...
6
голосов
3ответа
925 показов

Читайте неблокирующее из нескольких fifo параллельно

Я иногда сижу с кучей выходных данных от программ, которые работают параллельно. Я хотел бы объединить эти пятерки. Наивное решение: cat fifo* > output Но для этого необходимо завершить первый fifo ...
6
голосов
2ответа
30k показов

Различают ядра CUDA (NVIDIA) и потоковый процессор (ATI/AMD)

Я думаю, что здесь ответ на вопрос, но я все еще задаюсь вопросом, в чем разница между единицами, на которые он ссылается. Например, GTX 570 имеет 480 ядер CUDA, в то время как ATI, эквивалентный HD ...
5
голосов
2ответа
5k показов

Как использовать Ctrl+C, чтобы убить все фоновые процессы, запущенные в скрипте Bash?

ArchLinux (Манджаро). Я запускаю один файл Bash. Он запускает 2 процесса (команды), используя & . Но когда я нажимаю Ctrl+C, чтобы остановить программу - один процесс умирает, а другой продолжает ...
4
голоса
1ответ
1k показов

Параллельная обработка медленнее, чем последовательная?

РЕДАКТИРОВАТЬ: Для тех, кто сталкивается с этим в будущем: Imagemagick использует библиотеку MP. Быстрее использовать доступные ядра, если они рядом, но если у вас есть параллельные задания, это ...
4
голоса
1ответ
163 показов

Убить первую команду, как только выйдет вторая

Я долго искал лучшую практику для этого сценария. Если у меня есть process2, это зависит от процесса, запущенного заранее. Я создал псевдоним как: alias both='process1 & process2' Затем, когда ...
4
голоса
4ответа
2k показов

Оптимальное количество потоков при многозадачности

Я знаю, что подобные вопросы задавались, но я думаю, что мой случай немного отличается. Допустим, у меня есть компьютер с 8 ядрами и бесконечной памятью с ОС Linux. У меня есть программное ...
4
голоса
1ответ
1k показов

Как ядра в модуле AMD Bulldozer сравниваются с виртуальными ядрами Intel HTT и двумя отдельными ядрами с точки зрения производительности многозадачности?

Этот вопрос является расширением Hyper-Threading и Dual-Core. В чем разница? Процессоры AMD FX на базе Bulldozer продаются с четырьмя, шестью или восемью ядрами, но физически состоят из двух, трех ...
3
голоса
1ответ
972 показов

Кто-нибудь знает антивирус, который может сканировать несколько жестких дисков одновременно?

У меня 5 жестких дисков, и я очень устал ждать 3 часа, пока антивирусный сканер сканирует каждый диск по одному. Я не вижу абсолютно никакой причины, по которой вирусный сканер не может быть пронизан ...
3
голоса
2ответа
1k показов

Как я могу запустить несколько параллельных заданий оболочки и контролировать их все одновременно?

У меня есть большое количество больших файлов (сотни файлов, сотни МБ каждый), которые мне нужно передать через несколько программ для их фильтрации и преобразования. Я использую преимущества ...
3
голоса
2ответа
70 показов

Как компьютер спит / ждет без использования всей его вычислительной мощности?

Что-то, чего я никогда не понимал, - это то, как компьютер может работать без использования всей его вычислительной мощности. (Вероятно, эта путаница проистекает из ужасного урока ОС в колледже.) ...
2
голоса
1ответ
148 показов

удалить команду slurm sacct двойные записи: "extern"

Работы, которые в данный момент выполняются, показывают две записи, одна из которых имеет суффикс .extern . Завершенные (или неудачные) задания также имеют третью запись: .batch . Есть ли способ ...
2
голоса
2ответа
171 показов

Создайте много файлов tar из каталога с 500000 файлами

У меня есть каталог, содержащий около 500 тыс. Файлов, и я хочу разделить их на файлы t tar. Говоря формально, давайте назовем файлы file_0, ..., file_{N-1} , где N около 500k. Я хочу создать t ...
2
голоса
1ответ
303 показов

Параллельное программирование в ноутбуке на базе AMD

У меня ноутбук серии Lenovo G50 с AMD A8-6410 @ 2 ГГц, 8 ГБ оперативной памяти с R5 230M и картами Radeon HD 8550M внутри. В Windows 10 можно ли запустить программу на основе интерфейса командной ...
2
голоса
1ответ
346 показов

Параллельная обработка в интегрированном графическом процессоре

У меня есть встроенный графический процессор, то есть он работает на той же оперативной памяти, что и мой процессор. (ATI Radeon HD 4200, встроенный в M4A785TD-V EVO) Означает ли это также, что мой ...
2
голоса
1ответ
342 показов

Как заставить gnuparallel последовательно выполнять набор команд?

Gnu Parallels - это мощный инструмент, который я использую для запуска множества независимых команд BASH в виде одного набора параллельно. Я хотел бы иметь возможность запускать те же команды ...
2
голоса
1ответ
1k показов

Быстрее ли запустить один процесс, который порождает N потоков, или запустить N процессов?

Мне нужно выполнить ~ 1500 заданий на сервере моей лаборатории. Программа, которую я использую (blastpgp если кому-то все равно), способна работать в параллельном режиме, опция -a устанавливает, ...
2
голоса
1ответ
3k показов

Действительно ли четырехъядерный процессор HyperThreaded имеет 8 "ядер"

У меня в начале 2011 года Quad Core i7 Mac. Из-за гиперпоточности многие программы сообщают о 8 "ядрах". Если бы я написал программу, которая выполняется параллельно, мог бы я запустить 8 экземпляров ...
2
голоса
0ответов
251 показов

Утилиты командной строки Linux со встроенной поддержкой многопоточности

Я хотел бы иметь возможность сравнивать производительность многоядерных компьютеров с точки зрения пользователя, который выполняет типичные повседневные задачи в Linux. Моя текущая цель - собрать ...
2
голоса
0ответов
19k показов

Ошибка SSH: временный сбой в разрешении имени при запуске mpi

У меня есть 6 компьютеров (4 ядра каждое и идентичные по аппаратному обеспечению) со статическими IP-адресами, и мне нужно параллельно запускать программное обеспечение NAMD для вычислительной химии ...
2
голоса
2ответа
1k показов

Gunzip несколько файлов и объединить параллельно?

Можно ли сжать несколько файлов и объединить их в один большой файл, но делать это параллельно на многоядерной машине? Например, сейчас я делаю: gunzip -c file1.gz > final gunzip -c file2.gz >> final ...
2
голоса
4ответа
646 показов

Возможность параллельной обработки Intel Core 2 Duo / AMD Athlon X2

Действительно ли Intel Core 2 Duo / AMD Athlon X2 имеет 2 отдельных процессора? т.е. способны ли они выполнять реальную параллельную обработку? Чего я не понимаю, так это разницы, когда кто-то ...
2
голоса
1ответ
468 показов

Как я могу разделить память для параллельных вычислений в Mathematica?

Можно ли использовать оперативную память с других компьютеров для поддержки параллельных вычислений Mathematica Light Grid Server 7? Если так, то как?
2
голоса
2ответа
288 показов

Процесс будет работать медленнее в одном потоке, а не в одном ядре

Так много процессоров теперь имеют 2/4 ядра и 4/8 потоков. Есть также несколько процессоров с 4 ядрами и 4 потоками. Означает ли это, что не имеющий аналогов процесс будет работать медленнее на одном ...
2
голоса
1ответ
342 показов

Simulink - параллельные симуляции

Можно ли выполнять вычисления Simulink в параллельном режиме на кластере? И если это возможно, то что на самом деле делает Simulink, когда число процессов, которые мне нужны, больше, чем кластер, ...
2
голоса
2ответа
61 показов

Почему F @ H не связывается с более чем одним ядром в Windows?

В течение некоторого времени я принимал участие в проекте Stanford's Folding @ Home с большинством компьютеров, которыми я владею. Я только что установил клиент Windows на новую машину под ...
1
голос
0ответов
36 показов

Требования к оборудованию Анализ пробелов в Windows

У меня есть алгоритм, который нужно повторять («репликация») как минимум 30 раз: каждая репликация может выполняться в собственном ядре. Станции разработки ниндзя имеют «Рыцарскую посадку» (72 ядра) ...
1
голос
2ответа
1k показов

обнулить большое блочное устройство с распараллеленным дд

У нас есть шестьдесят терабайтное блочное устройство, которое мы хотим обнулить с помощью dd. Можно ли распараллелить эту операцию, чтобы уменьшить количество времени, которое требуется? Я попытался ...
1
голос
0ответов
83 показов

почему мой главный узел простаивает при параллельном запуске gnu?

Я использую gnu -rallel для параллельного запуска нескольких сценариев Python на нескольких компьютерах в моей гигабитной сети. Обрабатываемые файлы находятся в папке tmpfs (RAM) на моем главном ...
1
голос
1ответ
472 показов

Как мне запустить несколько .bat файлов, которые находятся в подпапках

Я новичок в суперкомпьютерах, недавно я создал экземпляр Amazon EC2 со 128 процессорами и Microsoft server 2012. У меня есть одна папка, которая имеет 100 подпапок, в каждой подпапке есть файл .bat. ...
1
голос
1ответ
250 показов

Современный процессор для высокопараллельных серверных приложений?

Я ищу аппаратное обеспечение, которое должно выполнять около 256 параллельных задач в реальном времени, требующих большого объема вычислений, в 24-часовом режиме. Каждая задача занимает около 40-50 ...
1
голос
2ответа
2k показов

Запуск потоков на процессоре Intel без гиперпоточности

Процессор Intel Pentium E5700 (2M Cache, 3,00 ГГц, 800 МГц FSB) не имеет гиперпоточности, но имеет 2 ядра, поэтому я предполагаю, что он имеет 2 потока Теперь, если я напишу программу обработки ...
1
голос
1ответ
266 показов

Основное отличие суперскалара от параллелизма

При суперскалярной обработке более чем одна инструкция выполняется параллельно на каждом ядре, так чем же тогда это будет отличаться от параллельной обработки? Спасибо.
1
голос
1ответ
237 показов

Какой тип интеграции CPU/GPU предлагают APU?

Я действительно очарован идеей GPGPU и использованием GPU для интенсивной обработки. Я вижу, что APU (процессоры ускоренной обработки, CPU+GPU на одном чипе) набирают постоянную популярность. Все APU ...
1
голос
0ответов
84 показов

Могу ли я настроить PVM таким образом, чтобы мастер не запускал собственные задачи?

У нас есть кластер Perceus (Warewulf), состоящий из 4-ядерного мастера и нескольких 4-ядерных узлов. Я могу запустить PVM на главном компьютере, а затем добавить все узлы - все работает нормально. ...
1
голос
1ответ
118 показов

Передача вычислительной мощности с серверов Linux через гигабитную локальную сеть в систему Macintosh

Как вы, возможно, знаете, Apple предлагает программу под названием Xgrid для разделения вычислительной мощности между компьютерами Mac. Это также позволяет легко кластеризоваться. Есть ли способ ...
1
голос
0ответов
22 показов

Функция MATLAB с поддержкой GPU?

Есть ли способ узнать, поддерживают ли GPU функции, которые я использую в сценарии MATLAB? Кажется, что нет полного списка (хотя см. Эту ссылку для списка функций обработки изображений с поддержкой ...
1
голос
1ответ
335 показов

Нормально ли перегружать только один процессор при использовании openMP?

Когда я использую OpenMP в FORTRAN для распараллеливания программы в linux, команда top показывает мне только один процессор, работающий ~ 800% вместо ~ 100 x 8 процессоров. Это ожидаемая ситуация?