Skoči na vsebino

Rešitve: izvajanje na gruči

Ukaze za način B izvajajte v snakemake-workshop/work-cluster-b z aktivnim okoljem .venv-slurm.

C1. Preštejte opravila in CPU-je

Hkrati lahko tečejo največ štiri opravila run_app: 4 / 1 = 4 po številu CPU-jev in 1024 / 256 = 4 po deklariranem pomnilniškem proračunu. Če jih je pripravljenih manj, jih teče manj. collect je odvisen od vseh desetih izhodov, zato se lahko začne šele, ko vsi obstajajo in so aktualni.

Pri ločenem oddajanju jobs: 10 dovoli največ deset oddanih, še nedokončanih opravil poteka namesto štirih. Vsako še vedno zahteva en CPU prek threads: 1. V omejitev štejejo tudi opravila v čakalni vrsti; gruča jih lahko hkrati izvaja manj. Sprememba ne poveča dodelitve in ne preglasi kvot gruče. Pri večnitnem programu se morata pravilo in ukaz programa ujemati glede števila niti; zahteva po več nitih sama ne vzporedi zaporednega Pythona.

C2. Spremenite časovno omejitev enega pravila

Razširite obstoječo preslikavo set-resources v profiles/slurm/config.yaml in ohranite obe nastavitvi pomnilnika. Ne dodajte drugega ključa set-resources. Celotna preslikava naj bo zdaj:

set-resources:
  run_app:
    mem_mb: 1024
  collect:
    mem_mb: 1024
    runtime: 10

Nato izvedite:

snakemake --profile profiles/slurm --dry-run --forceall

Predogled vsebuje runtime=10 za collect; deset opravil run_app ohrani runtime=5. set-resources preglasi izrecno zahtevo pravila. Če bi spremenili le default-resources.runtime, bi obe pravili ohranili izrecno navedeno petminutno vrednost. Obe pravili ohranita mem_mb=1024. Za samostojno začasno spremembo prek ukazne vrstice vključite tudi obe nastavitvi pomnilnika:

snakemake --profile profiles/slurm --dry-run --forceall \
    --set-resources run_app:mem_mb=1024 collect:mem_mb=1024 collect:runtime=10

To je načrtovana zahteva razporejevalniku, ne dokaz, da se bo opravilo končalo v desetih minutah.

C3. Poiščite vzrok napake

jobs nadzoruje sočasnost, ne časovne omejitve posameznega opravila. touch summary.tsv ustvari ali posodobi ime datoteke, ne da bi izdelal povzetek z desetimi podatkovnimi vrsticami; manjkajoči rezultat tako prikrije.

Preberite Slurmov dnevnik neuspelega opravila, Snakemakovo napako in evidenco porabe za identifikator opravila na svoji gruči. Ugotovite, ali omejitev velja za celotno paketno dodelitev (način A) ali za posamezno opravilo pravila (način B). Pred povečanjem ustrezne omejitve v dovoljenih mejah preverite nepričakovano velik vhod, počasno shrambo, programsko napako ali prenizko oceno časa.

Po odpravi vzroka najprej preglejte načrt. Za način B:

snakemake --profile profiles/slurm --dry-run --rerun-incomplete

Le na nastavljeni gruči nadaljujte z:

snakemake --profile profiles/slurm --rerun-incomplete

Manjkajoče oziroma nedokončano delo se ponovi, aktualno končano delo pa se lahko ponovno uporabi; pred nadaljevanjem preberite razloge v suhem zagonu. --rerun-incomplete dovoli ponovno izdelavo izhodov, označenih kot nedokončani; neuspelega rezultata ne naredi veljavnega. Pri načinu A spremenite zahtevo dodelitve sbatch in znova oddajte skript; njegovemu ukazu Snakemake dodajte --rerun-incomplete, če to zahtevajo zapisi o nedokončanih izhodih.

Zaključite s kontrolnim seznamom delavnice.