2

Поэтому я только что установил Torque на небольшой кластер, который мы настраиваем, и все, казалось, прошло довольно гладко. У меня pbs_mon работает на вычислительных узлах, а pbs_server - на головном узле, а pbsnodes -a из головного узла показывает все узлы в "свободном" состоянии.

Однако, когда я отправляю тривиальное задание - даже задание echo 'sleep 30' - с помощью команды qsub , вещи просто сидят в очереди и никогда не выполняются. У меня есть четыре вычислительных узла, и я запрашиваю 4 узла (неопределенная память / время / ppn).

Я подумал, что, возможно, мне нужно установить Maui, чтобы расписание работ работало хорошо, но в ретроспективе Torque должен уметь самостоятельно планировать и выполнять задания, не так ли? В любом случае я установил Мауи (успешно?) на головном узле (при выполнении showq мои отправленные задания отображаются как BLOCKED) ... Я предполагаю, что он работает на головном узле, так как в противном случае я бы не смог увидеть свои задания, отправленные qsub, верно? Нужно ли устанавливать Maui на каждом из вычислительных узлов, чтобы он работал? И нужно ли мне запускать мауи на них тоже?

Я просто хочу, чтобы это работало на простые вещи ... об остальном мы поговорим позже. Я новичок в этом и буду признателен за любую помощь, которая предлагается. Я попытался сделать то, что упомянуто в руководствах по установке, и, как я уже сказал, все, казалось, работало, но теперь оно ведет себя не так, как я ожидал.

Вот результат запуска checkjob для задания в очереди ...

  job is deferred.  Reason:  RMFailure  (cannot start job - RM failure, rc: 15043, 
  msg: 'Execution server rejected request MSG=cannot send job to mom, state=PRERUN')
  Holds:    Defer  (hold reason:  RMFailure)
  PE:  1.00  StartPriority:  1
  cannot select job 8 for partition DEFAULT (job hold active)

Я думаю, что pbs_mom работает на всех вычислительных узлах:

  [root@host1 ~]# service pbs_mom status
  pbs_mom (pid 27824) is running...

  [root@host2 ~]# service pbs_mom status
  pbs_mom (pid 20164) is running...

  [root@host3 ~]# service pbs_mom status
  pbs_mom (pid 23981) is running...

  [root@host4 ~]# service pbs_mom status
  pbs_mom (pid 23996) is running...

Я также считаю, что pbs_server работает на головном узле ... Может ли моя проблема быть в том, что мне нужно изменить iptables, чтобы убедиться, что необходимые порты не заблокированы? Опять же, все узлы отображаются как свободные после pbsnodes -a ...

На всякий случай это содержит полезную информацию ...

  [root@headnode maui-3.3.1]# pbsnodes -a
  host1
       state = free
       np = 4
       properties = dual470
       ntype = cluster
       status = 
  rectime=1317050602,varattr=,jobs=,state=free,netload=164038242,gres=,
  loadave=0.00,ncpus=4,physmem=8060460kb,availmem=17684340kb,totmem=18349604kb,
  idletime=241170,nusers=2,nsessions=9,sessions=3444 3328 3564 3574 3604 3620 
  3630 3684 6843,uname=Linux hawc1 2.6.32-71.29.1.el6.x86_64 #1 SMP Mon Jun 27 
  19:49:27 BST 2011 x86_64,opsys=linux
       mom_service_port = 15002
       mom_manager_port = 15003
       gpus = 2

  host2
       state = free
       np = 4
       properties = dual480
       ntype = cluster
       status = 
  rectime=1317050602,varattr=,jobs=,state=free,netload=106187454,gres=,
  loadave=0.00,ncpus=8,physmem=8058888kb,availmem=13819772kb,
  totmem=14219264kb,idletime=241201,nusers=1,nsessions=6,sessions=3446 
  3450 3452 3477 3479 3504,uname=Linux hawc2 2.6.32-71.29.1.el6.x86_64 
  #1 SMP Mon Jun 27 19:49:27 BST 2011 x86_64,opsys=linux
       mom_service_port = 15002
       mom_manager_port = 15003
       gpus = 2

  host3
       state = free
       np = 4
       properties = dual480
       ntype = cluster
       status = 
  rectime=1317050602,varattr=,jobs=,state=free,netload=148456196,gres=,
  loadave=0.00,ncpus=8,physmem=8058888kb,availmem=13722692kb,totmem=14219264kb,
  idletime=241161,nusers=2,nsessions=8,sessions=3482 3362 3584 3594 3624 3640 
  3650 3706,uname=Linux hawc3 2.6.32-71.29.1.el6.x86_64 #1 SMP Mon Jun 27 
  19:49:27 BST 2011 x86_64,opsys=linux
       mom_service_port = 15002
       mom_manager_port = 15003
       gpus = 2

  host4
       state = free
       np = 4
       properties = 480C2050
       ntype = cluster
       status = 
  rectime=1317050595,varattr=,jobs=,state=free,netload=154812523,gres=,
  loadave=0.01,ncpus=8,physmem=8058888kb,availmem=13715256kb,totmem=14219264kb,
  idletime=241142,nusers=2,nsessions=9,sessions=3504 3386 3590 3600 3630 3650 
  3655 3712 3829,uname=Linux hawc4 2.6.32-71.29.1.el6.x86_64 #1 SMP Mon Jun 27 
  19:49:27 BST 2011 x86_64,opsys=linux
       mom_service_port = 15002
       mom_manager_port = 15003
       gpus = 2

РЕШИТЬ:

Вот и получается, что iptables связывался со мной. Я отключил iptables на вычислительных узлах и добавил правильные записи в головной узел, и теперь он, кажется, работает нормально ... Я могу qsub эхо "спать 30" и посмотреть, как это работает. У меня новая проблема, но сейчас я сделаю новый вопрос ... надеюсь, этот будет проще!

0