Lmod
De NLHPC
Introducción
Lmod es un sistema de módulos que permite cargar software para la ejecución en el clúster. La mayoría del software ya se encuentra compilado y optimizado para su ejecución en las diversas arquitecturas disponibles, pero si necesitara software no incluido, por favor, comuníquenoslo mediante un correo a soporte@nlhpc.cl.
A continuación se presenta una guía básica para su uso habitual.
Software disponible por arquitectura/partición
Tenga en cuenta que dependiendo de la partición a utilizar necesitará cargar el toolchain adecuado para hacer un uso correcto de nuestra arquitectura.
| Partición | main | general | largemem | debug | v100 | mi100 | mi210 |
|---|---|---|---|---|---|---|---|
| Toolchain sugerido | aocc | intel/2022.00 | intel/2022.00 | aocc | fosscuda/2019b | aocc | aocc |
| Otros toolchain | - | intel/2019b | intel/2019b | - | - | - | - |
Recuerde cargar el toolchain necesario usando los comandos module o ml (la segunda forma es utilizada para abreviar y será utilizada en este tutorial), como por ejemplo:
ml intel/2022.00
o
ml aocc
Listar y Buscar
El comando ml o ml list lista todos los módulos que estén cargados.
El comando ml av o ml avail lista todo el software disponible. Notarán que el software está agrupado según el toolchain utilizado para su compilación.
$ ml av ----------------- /home/lmod/modules/all/MPI/intel/2019.2.187-GCC-8.2.0-2.31.1/impi/2019.2.187 ----------------- ANTLR/2.7.7-Python-3.7.2 MPFR/4.0.2 bzip2/1.0.6 APR-util/1.6.1 Mako/1.0.7-Python-2.7.15 cURL/7.64.0 APR/1.6.5 Mesa/18.3.4 cairo/1.16.0 Autoconf/2.69 (D) Meson/0.49.2-Python-3.7.2 expat/2.2.6 Automake/1.16.1 (D) NAMD/2.13-mpi (D) flex/2.6.4 (D) Autotools/20180311 (D) NAMD/2.13-smp-mpi fontconfig/2.13.1 BAGEL/1.2.2 NASM/2.14.02 freeglut/3.0.0 Bison/3.0.5 NCL/6.6.2 freetype/2.9.1 Bison/3.3 (D) NCO/4.7.9 g2clib/1.6.0 Boost/1.64.0 NLopt/2.5.0 g2lib/1.4.0 Boost/1.69.0-Python-2.7.15 Ninja/1.9.0 gc/7.6.8 Boost/1.69.0 (D) ORCA/4.1.1-OpenMPI-3.1.3 gettext/0.19.8.1 (D) Bowtie/1.2.2 OpenFOAM/v1812 git/2.21.0 Bowtie2/2.3.4.3 OpenMPI/3.1.3 gperf/3.1 CDO/1.9.6 OpenMPI/4.0.0 grib_api/1.28.0 CESM-deps/2 OpenMPI/4.0.1 (D) help2man/1.47.8 (D) CGAL/4.13-Python-2.7.15 PCRE/8.42 hopspack/2.0.2 CGAL/4.13 (D) PLUMED/2.5.0 hwloc/2.0.3 (D) CMake/3.13.4 (D) PROJ/5.2.0 imkl/2019.2.187 (L) CP2K/7.0 ParaView/5.4.1-mpi intltool/0.51.0-Perl-5.28.1 Doxygen/1.8.15 Perl/5.28.1 libGLU/9.0.0 ELPA/2018.11.001 Pillow/5.4.1-Python-3.7.2 libQGLViewer/2.7.1 ESMF/7.1.0r PnetCDF/1.9.0 libconfig/1.7.2 ESyS-Particle/2.3.5-Python-2.7.15 Pylint/1.9.4-Python-2.7.15 libdap/3.19.1 [ETC...]
Para buscar si está disponible un software, use ml spider y un nombre a buscar:
$ ml spider openfoam
-----------------------------------------------------------------------------------
OpenFOAM: OpenFOAM/v1812
-----------------------------------------------------------------------------------
Description:
OpenFOAM is a free, open source CFD software package. OpenFOAM has an extensive range of features to solve anything from complex fluid flows involving chemical reactions, turbulence and heat transfer, to solid dynamics and
electromagnetics.
You will need to load all module(s) on any one of the lines below before the "OpenFOAM/v1812" module is available to load.
icc/2019.2.187-GCC-8.2.0-2.31.1 impi/2019.2.187
ifort/2019.2.187-GCC-8.2.0-2.31.1 impi/2019.2.187
Filtrar por arquitectura
Desde que agregamos el nuevo clúster leftraru 2 hemos agregado los siguientes comandos que le permitirán filtrar los resultados que obtenga al utilizar el comando ml al momento de buscar software:
allsoftware: permitirá buscar y listar todo el software disponible en el clústerintelsoftware: permitirá buscar y listar el software para los toolchains de INTEL y FOSS CUDAamdsoftware: permitirá buscar y listar el software para los toolchains de AMD
De esta forma podrá obtener distintos resultados como se muestra el ejemplo a continuación:
[dbowman@leftraru2 ~]$ amdsoftware
[dbowman@leftraru2 ~]$ ml spider wrf
-------------------------------------------------
wrf:
-------------------------------------------------
Versions:
wrf/4.2.2-mpi-dmpar-zen4-5
wrf/4.3.3-mpi-dm+sm-chem-kpp-zen4-x
wrf/4.3.3-mpi-dmpar-chem-zen4-7
...
wrf/4.5.1-mpi-zen4-f
wrf/4.5.2-mpi-dm+sm-chem-zen4-m
wrf/4.5.2-mpi-dmpar-chem-zen4-e
-------------------------------------------------
For detailed information about a specific "wrf" package (including how to load the modules) use the module's full name.
Note that names that have a trailing (E) are extensions provided by other modules.
For example:
$ module spider wrf/4.5.2-mpi-dmpar-chem-zen4-e
--------------------------------------------------
[dbowman@leftraru2 ~]$
[dbowman@leftraru2 ~]$ intelsoftware
[dbowman@leftraru2 ~]$ ml spider wrf
--------------------------------------------------
CALWRF: CALWRF/2.0.3
--------------------------------------------------
Description:
CALPUFF is an advanced non-steady-state meteorological and air quality modeling system developed by scientists at Exponent, Inc. It is maintained by the model developers and distributed by Exponent. The
model has been listed by the U.S. Environmental Protection Agency (EPA) as an alternative model for assessing long range transport of pollutants and their impacts on Federal Class I areas and for
certain near-field applications involving complex meteorological conditions when the selection and use occur in agreement with the appropriate reviewing authority and approval by the EPA Regional Office
(see details on CALPUFF’s Regulatory Status).
You will need to load all module(s) on any one of the lines below before the "CALWRF/2.0.3" module is available to load.
icc/2019.2.187-GCC-8.2.0-2.31.1 impi/2019.2.185
icc/2019.2.187-GCC-8.2.0-2.31.1 impi/2019.2.186
icc/2019.2.187-GCC-8.2.0-2.31.1 impi/2019.2.187
icc/2019.2.187-GCC-8.2.0-2.31.1 impi/2019.2.187-nlhpc
icc/2019.2.187-GCC-8.2.0-2.31.1 impi/2019.2.187_2022impi
...
Mostrar
Muestra información específica de una aplicación en particular.
$ ml spider OpenFOAM/v1812
--------------------------------------------------------------------------------------------------------------------------
OpenFOAM: OpenFOAM/v1812
--------------------------------------------------------------------------------------------------------------------------
Description:
OpenFOAM is a free, open source CFD software package. OpenFOAM has an extensive range of features to solve anything from complex fluid flows involving chemical reactions,
turbulence and heat transfer, to solid dynamics and electromagnetics.
You will need to load all module(s) on any one of the lines below before the "OpenFOAM/v1812" module is available to load.
icc/2019.2.187-GCC-8.2.0-2.31.1 impi/2019.2.187
ifort/2019.2.187-GCC-8.2.0-2.31.1 impi/2019.2.187
Cargar
Este comando carga el modulo NAMD/2.13-mpi:
$ ml NAMD/2.13-mpi $ ml Currently Loaded Modules: 1) GCCcore/8.2.0 4) impi/2019.2.187 7) binutils/2.32 10) FFTW/3.3.8 2) icc/2019.2.187-GCC-8.2.0-2.31.1 5) imkl/2019.2.187 8) zlib/1.2.11 11) NAMD/2.13-mpi 3) ifort/2019.2.187-GCC-8.2.0-2.31.1 6) intel/2019b 9) Tcl/8.6.9
Descargar
Descarga un módulo en particular, pero no sus dependencias.
$ ml Currently Loaded Modules: 1) GCCcore/8.2.0 4) impi/2019.2.187 7) binutils/2.32 10) FFTW/3.3.8 2) icc/2019.2.187-GCC-8.2.0-2.31.1 5) imkl/2019.2.187 8) zlib/1.2.11 11) NAMD/2.13-mpi 3) ifort/2019.2.187-GCC-8.2.0-2.31.1 6) intel/2019b 9) Tcl/8.6.9 $ ml unload NAMD/2.13-mpi $ ml Currently Loaded Modules: 1) GCCcore/8.2.0 4) impi/2019.2.187 7) binutils/2.32 10) FFTW/3.3.8 2) icc/2019.2.187-GCC-8.2.0-2.31.1 5) imkl/2019.2.187 8) zlib/1.2.11 3) ifort/2019.2.187-GCC-8.2.0-2.31.1 6) intel/2019b 9) Tcl/8.6.9
Limpiar
Eliminar todos los módulos que previamente se tienen cargados.
$ ml Currently Loaded Modules: 1) GCCcore/8.2.0 3) icc/2019.2.187-GCC-8.2.0-2.31.1 5) impi/2019.2.187 7) intel/2019b 2) binutils/2.31.1 4) ifort/2019.2.187-GCC-8.2.0-2.31.1 6) imkl/2019.2.187 $ ml purge $ ml No modules loaded
Ejemplo simple de un script sbatch
Para cargar la versión 3.7 de Python en un script sbatch:
#!/bin/bash #SBATCH -J example #SBATCH -p general #SBATCH -n 1 #SBATCH -o example_%j.out #SBATCH -e example_%j.err #SBATCH --mail-user=user@gmail.com #SBATCH --mail-type=ALL ml intel/2022.00 ml Python/3.12.3 [ETC...]
