Computacin Distribuida y eCiencia Proyectos GRID

1
Computación Distribuida y e-CienciaProyectos
GRID
Granada, 12 de julio de 2002 Jesús Marco de
Lucas Consejo Superior de Investigaciones
Científicas
2
Proyectos GRID

• e-Ciencia y Grid
• Iniciativas del CERN DataGrid, LCG
• Proyecto CrossGrid
• Perspectiva VI Programa Marco
• Centros de e-Ciencia
• Actividades en el Instituto de Física de
  Cantabria (IFCA)

3
Qué es la e-Ciencia ?

• Desarrollo de proyectos científicos a gran escala
  cuya realización requiere una colaboración
  distribuida a escala global, solo posible
  mediante el uso de la red
• Requerimientos
• Acceso a grandes colecciones de datos (VLDB)
• Procesado y Análisis utilizando grandes recursos
  de cálculo y potentes facilidades de
  visualización
• Herramientas de colaboración
• Ejemplos
• Simulación y Análisis de datos en Física de
  Partículas
• Biología Computacional (Proteómica y Genómica)
• Medicina (análisis de imágenes de diagnostico)
• Modelos predictivos en Ciencias Medio Ambientales
• Análisis observacional en Astrofísica

4
Ejemplo Computación en el LHC (CERN)
Necesidades de Almacenamiento 10 PetaBytes
(10.000.000 Gbytes) Necesidades de Procesado
Equivalente a 200.000 PCs
Europa 267 instituciones, 4603
usuariosResto 208 instituciones, 1632 usuarios
5
Qué es GRID ?

• Una propuesta en analogía con la red eléctrica
  (electrical grid)
• Recursos de computación distribuidos, fiables y
  accesibles desde cualquier punto
• Interacción sencilla, sin que el usuario perciba
  la complejidad de la infraestructura
• Envía su trabajo mediante un portal
• GRID localiza los recursos necesarios
• Gestiona la identificación y autoriza el uso de
  los mismos dentro de una Organización Virtual
• Organiza un acceso eficiente a los datos
• Ejecuta el trabajo, e informa al usuario

6
Un poco de historia...

• Agregación de recursos
• Sistema SHIFT (granjas RISC Unix, L.Robertson,
  CERN)
• Clusters de PCs (Sistemas Beowulf, fábricas de
  PC...)
• Recursos distribuidos compartidos
• Sistema Condor (M.Livny)
• gestión de tiempo inactivo en sistemas Linux de
  la red local
• Red Entropía, Programa SETI
• Sistemas Peer to Peer
• 1995 Supercomputing 95
• Experiencia I-WAY 17 centros USA conectados a
  155Mbp
• Primeras iniciativas Grid
• NASA Information Power Grid
• Iniciativa de la NSF con los centros NCSA y SDC
• Advanced Strategic Computing Initiative (DoE)

7
Software básico

• Del mismo modo que Internet es posible gracias a
  la existencia de un estándar como el protocolo
  TCP/IP, y el WWW gracias al protocolo http y el
  lenguaje HTML, Grid cuenta con un estándar de
  facto el software Globus
• Desarrollado por ANL (I.Foster) y USC
  (C.Kesselman)
• Arquitectura en capas
• Protocolos
• Seguridad GSI
• Gestión de Recursos GRAM
• Información GRIS
• Transferencia de información GridFTP

8
Testbed de CROSSGRID
Configuración básica
Géant
TCD Dublin
PSNC Poznan
UvA Amsterdam
ICM IPJ Warsaw
FZK Karlsruhe
CYFRONET Cracow
CSIC-UC IFCA Santander
II SAS Bratislava
USC Santiago
LIP Lisbon
Auth Thessaloniki
UAB Barcelona
CSIC RedIris Madrid
CSIC IFIC Valencia
UCY Nikosia
DEMO Athens
9
Iniciativas en e-Ciencia

• proyectos GRID en USA
• PPDG, GriPhyn, Earth System Grid, Fusion
  Collaboratory, NEESGRID
• TeraGrid, iVDGL
• Europa UK,Italia,Holanda, Francia...
• Foro Internacional Global GRID Forum (GGF)

10
Proyectos GRID

• e-Ciencia y Grid
• Iniciativas del CERN DataGrid, LCG
• Proyecto CrossGrid
• Perspectiva VI Programa Marco
• Centros de e-Ciencia
• Actividades en el Instituto de Física de
  Cantabria (IFCA)

11
El proyecto EU-DataGrid

• CERN (cuna del WWW) con el apoyo de Bruselas
• Proyecto Europeo DataGrid (V PM 2001-2003, 10 M)
• CERN CNRS(F) INFN (I) PPARC(UK) ...
• Desarrollo de software para proporcionar los
  servicios GRID mediante middleware
• Resource and Data management
• Fabric and Monitoring
• Mass Storage
• Network
• Testbed internacional para aplicaciones en Física
  de Partículas, Observación de la Tierra (ESA),
  Biología
• Demos de calidad producción
• Colaboración y complemento con otros proyectos EU
  y USA
• Infraestructura de red proyecto Géant
• Participación Industrial CS SI/F, DataMat/I,
  IBM/UK

12
Ejecución en testbed
Replica Catalogue
Information Service
Resource Broker
Storage Element
Logging Book-keeping
Job Submission Service
Compute Element
13
Participación en DataGRID
WP6 (TESTBED) 2001 IFAE reports in behalf of the
other HEP institutions working in the testbed
workpackage of the DataGrid project in Spain
(IFCA,CIEMAT,UAM,IFIC)         Certification
Authority         Installation kits        
Information servers (GIIS)         Condor batch
system and AFS         DataGrid project web
sites and mailing-lists for Spain
14
LHC Computing Grid project

• After the CERN Hoffmann review (2000)
• Resource implications presented to LHC experiment
  RRBs in March 2001.
• CERN Management summary presented to SPC and
  Committee of Council in March as white paper.
• Discussions between CERN Management and LHC
  experiment spokespersons.
• LHC turn-on schedule agreed machine-experiments
• CERN/2379 green paper for Council and FC in
  June
• Development and Deployment of LHC Computing Grid
  Infrastructure should be setup and managed as a
  unified project, similar in some ways to a
  detector collaboration. CERN is viewed as the
  institution that should co-ordinate it.
• There should be a Prototyping Phase in 2002-2004.
  The scale and complexity of the development is
  large and must be approached using a Project
  Structure. Work is needed in the Member State
  Institutes and at CERN.
• Human and Material Resources for CERNs part of
  Phase I are not sufficient and should be funded
  by additional contributions from interested
  Member States.
• AGREED!
• Spanish contribution includes fellowships at CERN

15
Deliverables to fulfill the objectives
LCG-ES 3-year project Coordinated by
Manuel Delfino (PIC)
EAD, MCF, GSW, CDC
IFCA
EAD, GSW, CDC
EAD, ETD, PIC, EDS, GSW
USC
IFAE
EAD Analysis Farm EDS SW Dev Platform RSG
SW repository GSW SW Gridification MCF MC
Fabric GVM Virtual MC farm ETD Data
Transform PIC Gridified Data Store SEG
Security Architect CTS Tech MC Support CDC
Data Chal. Coord.
EAD, MCF, EDS, RSG, SEG, CTS
UB
CIEMAT
EAD,EDS, CTS
UAM
IFIC
EAD, GVM
EAD, MCF, CTS, CDC

• Stay away from glitz.
• Concentrate on deployment, MC analysis
• Use local Univ. for TT to other disciplines
• 600 KCHF materials contribution to LCG-CERN

16
Proyectos GRID

• e-Ciencia y Grid
• Iniciativas del CERN DataGrid, LCG
• Proyecto CrossGrid
• Perspectiva VI Programa Marco
• Centros de e-Ciencia
• Actividades en el Instituto de Física de
  Cantabria (IFCA)

17
Proyecto CROSSGRID

• Proyecto europeo ( 5 M, trianual, Marzo
  2002-2005)
• presentado en CPA9, 6th IST call,V PM
• iniciativa Polonia(Centros de Computing de
  Cracovia y Poznan)/España(CSIC y CESGA) con el
  apoyo del CERN
• Objetivos
• Extension de GRID en Europa Testbed
• Multidisciplinar aplicaciones interactivas en
• Medio Ambiente (meteorología/contaminación,inundac
  iones)
• Física de Partículas (análisis sobre bases de
  datos distribuidas)
• Medicina (cirugía vascular)
• Participantes
• Polonia, España, Alemania, Portugal, Holanda,
  Austria, Grecia, Irlanda, Slovakia,Chipre...(19
  instituciones)
• Industria Datamat (I), Algosystems (Gr)
• España (900k) CSIC (IFCA, IFIC, RedIRIS), UAB,
  USC

18
Proyecto CROSSGRID

• Medicina cirugía vascular

19
Proyecto CROSSGRID

• Meteorología predicciones locales

20
WP1 Task 1.3 Distributed Data Analysis in HEP
Coordinated by C.Martinez (CSIC)

• Subtask 1.3.2 Data-mining techniques on GRID
• ANN(Artificial Neural Networks) main tool for
  Data-mining in HEP
• Example of Physics Analysis using ANN

21
HEP Interactive Application
Interactive Session Resource Broker
2
Replica Manager
User
CAS service
3a
3b
1
Portal Authorization DATASET XML Input XML
Output
4
5
DISTRIBUTED PROCESSING
6
DB Installation
Interactive Session Manager
9
Interactive Session Database server
7
8
22
HEP Interactive Portal
V.O.Authentication DATASET Resources Monitoring
Graphic Output/(Input?)
DATASET Dictionary (Classes) Basic
Object Derived Procedures
Alphanumeric Output
Analysis Scripts
Work Persistency
23
Distributed (via MPI) NN training scaling
644577 events, 16 variables 16-10-10-1
architecture 1000 epochs for training

• First checks with nodes at Santander RedIRIS
• (Oscar Ponce Antonio Fuentes)
• remote configuration modelling including
  latency
• lt100 ms needed !
• Paper accepted for Euro PVM/MPI

24
WP4 - International Testbed Organisation

• Tasks in WP4
• 4.0 Coordination and management
• (task leader J.Marco, CSIC, Santander)
• Coordination with WP1,2,3
• Collaborative tools (webvideoconfrepository)
• Integration Team
• 4.1 Testbed setup incremental evolution
• (task leaderR.Marco, CSIC, Santander)
• Define installation
• Deploy testbed releases
• Certificates
• Security Working Group
• A.Fuentes RedIRIS

• Testbed site responsibles
• CYFRONET (Krakow) A.Ozieblo
• ICM(Warsaw) W.Wislicki
• IPJ (Warsaw) K.Nawrocki
• UvA (Amsterdam) D.van Albada
• FZK (Karlsruhe) M.Hardt
• IISAS (Bratislava) J.Astalos
• PSNC(Poznan) P.Wolniewicz
• UCY (Cyprus) G.Tsouloupas
• TCD (Dublin) B.Coghlan
• CSIC (Santander/Valencia) J.Sanchez
• UAB (Barcelona) E.Heymann
• USC/CESGA (Santiago) C.Fernandez
• Demo (Athenas) Y.Cotronis
• AuTh (Thessaloniki) C.Kanellopoulos
• LIP (Lisbon) J.Martins

25
WP4 - International Testbed Organisation

• Tasks in WP4
• 4.2 Integration with DATAGRID (task leader
  M.Kunze, FZK)
• Coordination of testbed setup
• Exchange knowledge
• Participate in WP meetings
• 4.3 Infrastructure Support (task leader J.Salt,
  CSIC, Valencia)
• Fabric management
• HelpDesk
• Provide Installation Kit
• Network support
• QoS (working group, I.Lopez CESGA)
• 4.4 Verification quality control (task leader
  J.Gomes, LIP)
• Feedback
• Improve stability of the testbed

JOINING DataGrid testbed 1.2 in July 2002
26
Proyectos GRID

• e-Ciencia y Grid
• Iniciativas del CERN DataGrid, LCG
• Proyecto CrossGrid
• Perspectiva VI Programa Marco
• Centros de e-Ciencia
• Actividades en el Instituto de Física de
  Cantabria (IFCA)

27
Perspectivas GRID y e-Ciencia

• Qué está pasando a nivel mundial
• El software Globus alcanza su madurez (GT 2.0)
• IBM, Sun, Compaq/HP, Microsoft invirtiendo en
  GRID, en particular en la orientación Web
  Services
• Refuerzo de proyectos GRID en USA, grandes
  testbed
• Qué se mueve en Europa
• Iniciativa de centros e-Science en UK (150M
  2001-2004)
• Multidisciplinares
• Tecnología GRID
• Inversión significativa
• Contratos de personal y de infraestructura ya en
  marcha...
• Redes nacionales en Francia, Holanda, Italia...
• Varios proyectos europeos GRID en marcha cluster
  GRIDSTART
• Preparación de propuestas (EoI) para VI Programa
  Marco
• PROYECTO INTEGRADO EGEE (CERN)
• Red de Centros de Excelencia en e-Ciencia?

28
1980s Internet 1990s Web 2000s Grid

• Where do we need to get to ?
• Applications to support an e-society
  (Cyber-Infrastructure)
• An international Grid infrastructure which hides
  the complexities from the users (Invisible
  Computing)
• A powerful and flexible network infrastructure
• Where do we need to invest ?
• Applications targeted at realistic problems in
  e-science
• Prototypes of Grid infrastructures
• Maintain and improve the GEANT network
• Expression of Interest for EU FP6 program
• Enabling Grids and e-Science in Europe (EGEE)

29
IST Grid Project Space
- Links with European National efforts - Links
with US projects (GriPhyN, PPDG, iVDGL,)
Applications
Middleware Tools
Underlying Infrastructures
30
EGEE Project Space
Applications
Middleware Tools
Underlying Infrastructures
31
First results of EGEE Brainstorming
C Jones, D O Williams, et al
32
EoI 6 PM (7 Junio 2002)
Proyecto Integrado EGEE (coordinado CERN)

• CSIC
• RedIRIS
• IFCA (Santander)
• IFIC (Valencia)
• IMEDEA (Palma)
• CAB (Madrid)
• CNB (Madrid)
• CBM (?) (Madrid)
• IAA (Granada)
• Centros
• CIEMAT (Madrid)
• IFAE (Barcelona)
• PIC (Barcelona)
• CESGA (Santiago)
• IAC (Tenerife)

• Universidades
• U. Cantabria
• U. Valencia
• U. Murcia
• U.A.Barcelona
• U.A.Madrid
• U.Complutense Madrid
• PYMES
• CIC-S.L. (Cantabria)
• GridSystems (Palma)

33
EoI 6 PM (7 Junio 2002)

• Red de Excelencia RTGRID
• (Real Time GRIDs)
• España
• CSIC
• Univ.Cantabria
• CESGA
• CIC-SL
• Polonia
• Cyfronet
• Grecia
• Univ. Athenas
• Univ. Thessaloniki
• Slovakia
• IISAS Bratislava
• Cyprus
• Univ. Cyprus

• Desafío tecnólogico y conceptual
• Latencia lt10ms
• Agregación RT
• Flexibilidad Instalación Dinámica
• Modelos de colaboración neuronal?

• Otras propuestas
• CEPBA
• UPV ?
• ...

34
Proyectos GRID

• e-Ciencia y Grid
• Iniciativas del CERN DataGrid, LCG
• Proyecto CrossGrid
• Perspectiva VI Programa Marco
• Centros de e-Ciencia
• Actividades en el Instituto de Física de
  Cantabria (IFCA)

35
e-Ciencia en el VI PM (2003-2006)

• Inversión en Network GRIDs estimación 300M
• Network Geant-2 (150M)
• GRIDs
• Proyectos de infraestructura básica (EGEE 50-70
  M)
• Redes de excelencia orientadas (como RTGRIDs)
• Interés en España
• CSIC IFCA (Santander),RedIRIS,IFIC
  (Valencia),IMEDEA (Palma),CAB,CNB (Madrid)
• Universidades UC, UCM, UAB, UAM, UM, UV, USC
• CIEMAT (Madrid), IFAE (Barcelona), PIC
  (Barcelona), CESGA (Santiago)
• Empresas CIC-SL (Cantabria), GridSystems (Palma)
• REUNION 12 DE JUNIO EN GT REDIRIS EN MADRID
• Presentación de las iniciativas GRID académicas
  en España
• Propuesta de organización a través de red de
  centros de e-Ciencia
• Financiación básica
• 50 VI PM, 30 proyectos nacionales afines, 20
  soporte institucional
• 8 centros con presupuesto básico (core) de 250K
  anuales
• Preparación de una acción especial

36
Centros de e-Ciencia

• Objetivos
• Establecer un entorno computacional GRID local e
  integrar los recursos correspondientes en la
  estructura nacional e internacional
• Promover proyectos en colaboración con empresas
  para desarrollar e instalar soluciones basadas en
  la tecnología GRID
• Actuar como referencia local de formación y
  diseminación de las iniciativas de e-Ciencia y la
  tecnología GRID
• Condiciones para un centro de e-Ciencia
• Proyectos multidisciplinares de grupos de
  excelencia en investigación con elevadas
  necesidades de computación (cálculo y/o grandes
  bases de datos)
• Soporte de grupos especializados (arquitectura de
  computadores, técnicas de análisis, bases de
  datos, etc.)
• Posibilidad de transferencia de tecnología a
  empresas
• Existencia de un equipo base con interés en la
  iniciativa GRID

37
Organización de un centro de e-Ciencia

• MISION COORDINACION DE INICIATIVAS GRID
• Actividades
• Formación y Diseminación
• Transferencia de Tecnología
• Instalación y mantenimiento de la Infraestructura
  local
• Redes Conexión, QoS, Seguridad
• Middleware GRID
• Data Management (en particular bases de datos
  distribuidas)
• Gridificacion de Aplicaciones
• Organizaciones Virtuales
• Posibilitar trabajo Interactivo y Colaborativo
• Coordinación interna y externa.
• Participación en foros relevantes (nacionales e
  internacionales)
• Recursos
• Panel de coordinación (interna y externa) panel
  técnico
• Excelente conexión de red (nacionalRedIRIS e
  internacionalGéant)
• Infraestructura de calculo (cluster
  almacenamiento on/off-line)
• Equipo humano coordinador, responsables de
  actividades, personal de apoyo e investigadores
  participantes

38
Cuestionario para centros de e-Ciencia

• Razonar el carácter de excelencia del centro
• Relacionar los recursos humanos del centro
• Detallar los recursos computacionales a compartir
  a nivel nacional e internacional y confirmar la
  instalación de software compatible con testbeds
  nacionales e internacionales (basados en Globus)
• Describir la experiencia en iniciativas
  GRID/e-Ciencia
• Analizar las perspectivas de financiación a
  partir de proyectos de e-Ciencia
• Demostrar el interés local y regional
• Identificar compañías interesadas en participar
  en las actividades del centro y su área de
  especialización
• Describir el estado actual y las perspectivas del
  enlace a la red académica para el centro
  propuesto
• Confirmar recursos de colaboración
  (VRVS/AccessGrid)
• Definir las líneas prioritarias que el Centro
  tiene como objetivo, y su complementariedad con
  las de otros Centros

39
Proyectos GRID

• e-Ciencia y Grid
• Iniciativas del CERN DataGrid, LCG
• Proyecto CrossGrid
• Perspectiva VI Programa Marco
• Centros de e-Ciencia
• Actividades en el Instituto de Física de
  Cantabria (IFCA)

40
e-Ciencia en el IFCA (Santander)
Hands on GRID _at_ IFCA (http//grid.ifca.unican.es/)
41
IFCA

• Research Institute
• University of Cantabria
• Consejo Superior de Investigaciones Científicas
• Three main research lines
• Astrophysics (XMM, Planck...)
• Statistical Physics (Lasers, fractals chaos...)
• High Energy Physics
• DELPHI, LEP (Physics Analysis)
• CDF, Fermilab (TOF detector Physics Analysis)
• CMS, LHC (Alignement Geant4 Sim, OSCAR)
• Common Interest
• Computing needs
• Data Management
• Advanced Analysis Techniques
• Optimize resources for infraestructure manpower

42
HEP Computing at IFCA

• Previous experience
• DELPHI Fast simulation
• RPC software for DELPHI on-line
• Analysis software for DELPHI (NN, IES...)
• Initiatives
• Databases (use of O/R DBMS in HEP)
• FEDER project with DB software company (Semicrol)
  IBM
• GRID Initiatives
• DataGRID testbed site CA for Spain
• CROSSGRID WP1 (HEP appl, meteo), WP2, WP4
  (testbeds)
• Technology transfer with companies (Mundivia,
  CIC)
• Participation in testbed of DataTag (CDF)
• Computing for LHC (CMS)

43
GRID team in Santander

• Research line at IFCA ( Univ.Cantabria CSIC )
• staff contracts fellowships
• Expertise
• Databases use
• Testbed issues (cluster installation, security,
  CA, etc)
• Applications
• Astrophysics
• Complex systems
• HEP
• Meteo
• Collaboration and support (via projects) on
• NN, methods Dpto Matematicas
• Clusters MPI Grupo de Arquitectura de
  Computadores
• Network Centro de Calculo U.C.
• Companies
• Mundivia, CIC-SL
• Semicrol, IBM DATA MANAGEMENT

44
Resources

• New IFCA building
• with support for e-Science activities (2002/2003)
• New Infrastructure
• Cluster 100 IBM servers (100 available for
  GRID)
• (dual 1.26 GHz, 640Mb-4GB RAM, 80 GB/server)
• 4-way processor gatekeeper
• Gigabit local backbone
• Improved network connection
• 155 Mbps Santander-RedIRIS (Geant node)

45
Recursos Computación

• CLUSTER 80 SERVIDORES IBM (CSIC, Enero 2002)
• 160 CPU INTEL 1.26 GHZ, 7 Terabytes on-line
• SANTANDER GRID WALL (SGW)

SERVIDOR 4 VIAS ROBOT 2 Tbytes
46
Proyectos

• Ejecución confirmada
• Proyecto europeo CROSSGRID
• 2002-2005, 455k
• Acción especial CCLHC
• 2002, 85K (IFCA coordinó la preparación
  nacional)
• Proyecto LCG-ES (Física de Partículas)
• 2003-2005, 415k
• Infraestructura
• CSIC Apoyo centros 200k
• En trámite
• Investigación aplicada Instalación y
  monitorización (con CIC-SL)
• Predicción de mercados (con Mundivia)
• Acción especial de participación en DataTag/CDF
  (200k)
• Perspectivas
• LCG-ES 2006-2008
• Interreg III (solicitud del CESGA Gridred
  atlántica)
• Programas nacionales TIC,...
• 6 PM EGEE, RTGRIDs

47
Red Académica actual y proyectos GRID
SANTANDER
SANTIAGO
PIC
MADRID
BARCELONA
RedIRIS
VALENCIA
48
Hacia un Mapa de e-Ciencia?
EN LA NUEVA RED, TANTO A NIVEL EUROPEO (GEANT-2)
COMO NACIONAL, LAS APLICACIONES GRID SE PODRAN
CONSIDERAR DE FORMA PREFERENTE QoS O ANCHO DE
BANDA RESERVADO
Santander Norte
Santiago Noroeste
Barcelona Nordeste
Madrid Centro Conexión Geant
Palma Baleares
Concurso nueva infraestructura de RedIRIS Enlaces
de 155, 622 y 2500 Mbps Posibilidad de
cuadruplicar ancho de banda inicial
Tenerife Canarias
Valencia Este
Andalucia Sur