Preskočiť na obsah

SLURM Fronty

Táto stránka uvádza dostupné Slurm fronty na Perune a ich konfiguračné limity. Pre všeobecné vysvetlenie front a ich používania pozrite sekciu Zdieľané návody → Fronty.

Dostupné fronty

Fronta Uzly Časový limit
(d-hh:mm)		 Limit veľkosti úlohy
(uzly/jadrá)		 GPU/uzol Pamäť
(GB)		 Prioritný faktor
testing login01–login04 0-00:30 1/160 0 539 0
cpu_short cn001–cn045 1-00:00 2/640 0 2235 1
cpu_long cn001–cn045 4-00:00 1/320 0 1117 0
cpu_hm_short cn046–cn060 1-00:00 1/320 0 2235 1
cpu_hm_long cn046–cn060 4-00:00 1/320 0 2235 0
gpu_short gn001–gn076 1-00:00 4/1152 4 3380 2
gpu_medium gn001–gn076 2-00:00 2/576 4 1690 1
gpu_long gn001–gn076 4-00:00 1/288 4 845 0

Fronty s vysokou pamäťou

Perun ponúka vyhradenú skupinu uzlov s vysokou pamäťou:

  • cn046–cn060
  • dostupnú cez cpu_hm_short a cpu_hm_long

Tieto fronty sa líšia od štandardných CPU front tým, že:

  • majú vyššiu pamäť na CPU:
  • štandardná: 3575 MB / CPU
  • vysoká pamäť: 7150 MB / CPU
  • majú nižšiu váhu billingu pamäte:
  • podporuje sa tým využitie týchto uzlov pre pamäťovo náročné záťaže

Fronty s vysokou pamäťou používajte, keď:

  • úlohy presiahnu pamäťovú kapacitu štandardného uzla,
  • pamäť na jadro je limitujúcim faktorom pred počtom CPU.

Note

Fronty s vysokou pamäťou sú obmedzené na 1 uzol na úlohu.

Zobrazenie stavu fronty

Aktuálny stav front a uzlov sa dá zobraziť pomocou príkazu sinfo:

sinfo

Výstup sinfo

PARTITION    AVAIL  TIMELIMIT  NODES  STATE NODELIST
cpu_short*      up 1-00:00:00     43   idle cn[001-045]
cpu_long        up 4-00:00:00     43   idle cn[001-045]
cpu_hm_short    up 1-00:00:00     15   idle cn[046-060]
cpu_hm_long     up 4-00:00:00     15   idle cn[046-060]
gpu_short       up 1-00:00:00     71   idle gn[001-076]
gpu_medium      up 2-00:00:00     71   idle gn[001-076]
gpu_long        up 4-00:00:00     71   idle gn[001-076]
testing         up      30:00      2  drain login[01-04]

Značka * pri názve fronty označuje predvolenú frontu. Uzly sa môžu zobraziť viackrát, ak sa práve nachádzajú v rôznych stavoch, napr. idle, mix alebo alloc.

Zobrazenie detailnej konfigurácie fronty

Pre prehľad všetkých parametrov front:

scontrol show partitions

alebo pre konkrétnu frontu:

scontrol show partition cpu_short
Výstup scontrol show partition cpu_short 
scontrol show partition cpu_short
  PartitionName=cpu_short
  AllowGroups=ALL AllowAccounts=ALL AllowQos=ALL
  AllocNodes=ALL Default=YES QoS=N/A
  DefaultTime=1-00:00:00 DisableRootJobs=NO ExclusiveUser=NO ExclusiveTopo=NO GraceTime=0 Hidden=NO
  MaxNodes=2 MaxTime=1-00:00:00 MinNodes=0 LLN=NO MaxCPUsPerNode=UNLIMITED MaxCPUsPerSocket=UNLIMITED
  Nodes=cn[001-045]
  PriorityJobFactor=1 PriorityTier=1 RootOnly=NO ReqResv=NO OverSubscribe=NO
  OverTimeLimit=NONE PreemptMode=OFF
  State=UP TotalCPUs=14400 TotalNodes=45 SelectTypeParameters=NONE
  JobDefaults=(null)
  DefMemPerCPU=3575 MaxMemPerNode=UNLIMITED
  TRES=cpu=14400,mem=51488190M,node=45,billing=14400
  TRESBillingWeights=CPU=1.0,Mem=0.280G

Poznámky o správaní plánovača

  • Krátke fronty (vyššia priorita) sa plánujú rýchlejšie, ale majú prísnejšie limity.
  • Dlhé fronty (nižšia priorita) umožňujú dlhší beh úloh, ale môžu čakať vo fronte dlhšie.
  • Fronty s vysokou pamäťou sú obmedzené, ale optimalizované pre pamäťovo náročné záťaže.
  • GPU fronty majú výrazne vyššiu váhu billingu, preto sa neefektívne využívanie zdrojov penalizuje.
  • Fronta testing na prihlasovacích uzloch je obmedzená na krátke validačné úlohy.

Odhad walltime a efektivita úloh

Maximálny povolený čas bežných úloh na Perune je 4 dni (4-00:00:00) pre CPU a 4 dni (4-00:00:00) pre GPU úlohy. Presný odhad času behu úlohy môže výrazne zlepšiť efektivitu plánovania. Keď sa vaše záťaže ustália, skontrolujte výkon predchádzajúcich úloh pomocou príkazu seff a príslušne upravte parameter #SBATCH -t vo svojich skriptoch úloh. Kratšie úlohy sa zvyčajne plánujú rýchlejšie.

Created by: Marek Štekláč, Marek Štekláč