OAR Batch Scheduler

Ing. Antonio Lobo Estudiante de la Maestra en Sistemas Universidad Industrial de Santander

Que es OAR?
Es una batch scheduler basado en opensource el cual provee una simple y flexible manera de explotar recursos de un cluster. OAR administra dichos recursos como los tradicionales batch schedulers, ejemplo : PBS, Condor, LSF.

Batch scheduler: Es un organizador, administrador del cluster.

Que es OAR?
OAR esta diseado sobre herramientas como: MySQL, PostgreSQL, Perl Taktuk: es una herramienta para desplegar ejecuciones paralelas remotas.

Ventajas de OAR
No se muestra como deamon sobre los nodos. Oar soporta toda clase de aplicaciones paralelas de usuario. Las mejoras estn hechas sobre el server y no sobre los nodos. Todas las tareas de administraciones estn hechas sobre Taktuk. Full o parcial time-sharing. Checkpoint/Resubmit Environment deployment support Kadeploy.

Caractersticas de OAR
Jobs desde Batch o de forma Interactiva. Reglas de admisin. Walltime. Multi-queues con prioridades. First-Fit Scheduler. Reservacin Chequeo de los Compute nodes. Soporte de nodos dinamicos. Logging/Accouting. Suspend/resume jobs.

Instalacin Bsica de OAR

Para este taller vamos a realizar una instalacin bsica de OAR.
1.- Revisar conectividad entre el frontend y los nodos.
2.- ajustar el archivo /etc/hosts con las ips de los nodos
y el servidor. Ej: 192.168.1.2 nodo01.domainname nodo01 192.168.1.1 frontend.domainname frontend

Instalacin Bsica de OAR

3.- servidor de tiempo NTP.

#aptitude install ntp #ln -sf /usr/share/zoneinfo/America/Bogota /etc/localtime #vim /etc/ntp.conf Server ntp.usb.ve restric 159.90.200.7 mask 255.255.255.255 nomodify notrap Levantamos el demonio con el siguiente comando #/etc/init.d/ntpd start Miramos como quedo configurado la hora # ntpq p

4.- Instalar MySQL

#aptitude install mysql-server-5.0 mysql-client-5.0.

Instalacion Basica de OAR

5.- Revisar si estn instalados los siguientes paquetes:
#aptitude search Perl-Mysql #aptitude search Perl-DBI #aptitude search MySQL #aptitude search MySQL-shared #aptitude search libmysql

6.- Agregar a el archivo /etc/apt/sources.list

deb http://oar.imag.fr/debian_stable_2.3 ./

7.- En el caso del nodo principal instalamos:

#aptitude install oar-admin oar-server oar-doc oar-web-status

Instalacin Bsica de OAR

8.- Editar los archivos
#vim/var/lib/oar/.ssh/authorized_keys #vim/var/lib/oar/.ssh/id_rsa.pub

Y agregar environment="OAR_KEY=1 al comienzo y sin olvidar despus dejar un espacio entre lo anterior escrito y el contenido del archivo.

Instalacin Bsica de OAR

9.- Inicializar la base de datos desde OAR
# oar_mysql_db_init

10.- Agregar Recursos a la base de datos de OAR

# oarnodesetting -a -h oarnode01.uis.edu.co p cpu=0 # oarnodesetting -a -h oarnode01.uis.edu.co p cpu=1 (si

hay varios

procesadores)

Listo el SERVIDOR !!!!

Instalacin Bsica de OAR

-

INSTALACIN DE UN NODO:

1.- Revisar conectividad entre el frontend y los nodos. 2.- ajustar el archivo /etc/hosts 3.- servidor de tiempo NTP. 4.- Editar el archivo y agregar /etc/apt/sources.list
deb http://oar.imag.fr/debian_stable_2.3 ./

5.- En el caso del nodo principal instalamos:

#aptitude install oar-node

Instalacin Bsica de OAR

6.- copiar la carpeta .ssh del frontend en el
directorio /var/lib/oar/.ssh de cada uno de los nodos. En el cliente :
#cd /var/lib/oar/ #mkdir .ssh

Desde el frontend
scp -r /var/lib/oar/.ssh root@192.168.109.142:/var/lib/oar/.ssh

7.- chequear los permisos del archivo copiado

# chown R oar:oar /var/lib/oar/.ssh

Instalacin Bsica de OAR

CONFIGURACIN DE CUENTA DE USUARIO:
Desde el Frontend montamos una particin general para todos los nodos.

1.- Instalamos el paquete

#aptitude install nfs-kernel-server

2.- Configuramos el archivo /etc/exports

/home/ 192.168.0.0/255.255.0.0(rw,sync,subtree_check)

Instalacin Bsica de OAR

3. Instalacin y configuracin del NIS

Instalamos el paquete por repositorios

#apt-get install nis

Configuracin del SERVER-NIS

Modificamos las variables del siguiente archivo

#vim /etc/default/nis NISSERVER=master NISCLIENT=false

Instalacin Bsica de OAR

Editamos el siguiente archivo

#vim /etc/yp.conf domain nis-nodoserver server atom00

Para agregar servidores NIS y lanzar

# /usr/lib/yp/ypinit m

Para generar los archivos de configuracin del NIS y Lanzarlos

#cd /var/yp/ #make

Instalacin Bsica de OAR

Por ultimo reiniciar el servicio

# /etc/init.d/nis

NODO-NIS

Actualizar: /etc/defaultdomain
nis-nodoserver

Actualizar: /etc/default/nis Modificar las variables

NISSERVER=false NISCLIENT=true

Instalacin Bsica de OAR

Configurar NIS en el Nodo

Actualizar: host.conf
order hosts, nis multi on

Actualizar: /etc/nsswitch.conf actualizar la lnea

hosts: files nis dns

Actualizar: /etc/passwd agregar en la ultima lnea

+::::::

Actualizar: /etc/group agregar en la ultima lnea

+:::

Instalacin Bsica de OAR

Actualizar: shadow agregar en la ultima lnea
+::::::::

4.- creamos un usuario

#adduser test

Nos pasmos al usuario:

#su test

Creamos su llave de usuario

$ ssh-keygen -t rsa

5.- En el directorio .ssh creamos el archivo authorized_keys

$ cp id_rsa.pub authorized_keys

Instalacin Bsica de OAR

COMPROBAR EL FUNCIONAMIENTO DEL SCHEDULER
Desde un browser miramos las reservas
http://192.168.109.140/monika

Desde el frontend nos logeamos como usuarios y reservamos los nodos que necesitemos
#su test $ oarsub -I

MONIKA

OAR para usuarios

Oarstat: este comando imprime en una terminal los jobs que estn en mode de ejecucin.
$ oarstat j 42 f

Oarnodes: este comando imprime informacion sobre los recursos del cluster
$ oarnodes a

OAR para usuarios

Oarsub: El usuario puede submit un job con este comando El usuario debe especificar cuantos recursos va a necesitar
$Oarsub I