Mise en oeuvre industrielle d

1
Mise en oeuvre industrielle dalgorithmes
mathématiques
1992
1998
2002
2000
MIRIADParallel Processing

• (Présenté pour lhabilitation à diriger des
  recherches)
• Jérôme Lacaille
• Responsable recherche et développements
• Miriad Technologies
• Décembre 2004

2
Plan de la présentation

• Suivant le mémoire
• StoNe (STOchastic NEtworks)
• Un outil client-serveur danalyse dimages
  fonctionnant sur processeurs massivement
  parallèles
• CM2 Cray2 MasPar
• Siredin (Simulateur de rétine artificielle)
• Simulateur complet de rétine artificielle
  embarquée sur un intercepteur balistique
• Impact
• Analyse de linfluence des causes potentielles de
  la dégradation de qualité sur des fours à verre.
• Présentation de la méthodologie mathématique
  basée sur linformation mutuelle.
• Miriad-Process
• Latelier de développement et de capitalisation
  algorithmique développé pour Miriad-Technologies.

• Cas détudes
• Réalisations Miriad-Technologies
• Une série de descriptions rapides de quelques cas
  détudes résolus à Miriad à laide de
  Miriad-Process.
• Léquipe de développement
• Présentation de ceux qui par leurs efforts
  considérables ont participé à la conception de
  latelier.
• Analyse de la défectivité chez ST-Microelectronics
  
• Utilisation des mesures de défectivité pratiquées
  en cours de fabrication pour la mise en place
  dune surveillance et dun contrôle anticipatif
  de la qualité de production.

3
STONE

• STOchastic Networks
• CMLA MIRIAD - DRET

4
StoNe (1/4) Vision artificielle
Application détection de contours
5
StoNe (2/4) Solution logicielle

• Système client-serveur.
• Calculateur parallèle utilisé comme
  co-processeur.
• Connection-Machine
• Cray 2
• MasPar

• Réseaux de neurones
• plus de 3 millions de cellules.

6
StoNe (3/4) Machines de Boltzmann
Machines de Boltzmann
Champs de Gibbs
Hinton, Sejnowsky
Échantillonneur Markovien synchrone
7
StoNe (4/4) Parallélisme
8
Siredin

• Simulateur de rétine artificielle
• MIRIAD - CEA

9
Siredin (1/4) Projet
Pour préparer la future génération de capteurs
optiques embarqués sur des mobiles balistiques,
le CEA (DAM) commande à Miriad un simulateur
complet dun système optique embarqué.

• Simulation des trajectoires balistiques
• Porteur, mobile, mouvement de Poinsot
• Génération des scènes extérieures
• Astres (soleil, terre, lune, étoiles)
• Météo (sol, mer, nuages )
• Cible mobile
• Simulation du capteur optique
• 3 modèles (2 SFIM et 1 CERCO)
• Rétine optique, miroirs, moteurs
• Capteur numérique, diffraction, zones mortes,
• Algorithmique
• Veille optique
• Détection de points chauds
• Poursuite de la cible
• Anticipation dimpact

Agresseur en déplacement latéral
Agresseur en accélération
10
Siredin (2/4) Architecture
Archivage
Paramètres
Moteur
IHM
SOEM
OPTI
DETE
RETI
ALGO
SCETRA
MITO
SUPERVISEUR
Glossaire Glossaire
SCETRA Scénario et trajectoires
SOEM Sources et environnement
MITO Miroirs tournants
OPTI Optique
DETE Détecteur numérique
RETI Rétine artificielle
ALGO Algorithme de poursuite et danalyse du mouvement
11
Siredin (3/4) Suivi de cible mobile
Grandeurs moyennes estimées par lalgorithme Grandeurs moyennes estimées par lalgorithme
Vitesse relative entre intercepteur et agresseur 8000 m/s
Première détection (temps avant impact) 300 ms
Mode confirmé 230 ms
Anticipation de la date dimpact 200 ms
Analyse du mouvement complété 160 ms
Précision de la distance au plus près 0.5 m

• Balayage de lespace devant le mobile
• Repérage dun point chaud (IR)
• Analyse de limage, calcul des fiabilités de
  détection

• Suivi du point (mode confirmé)
• Suppression du bruit de quantification
• Prédiction de la trajectoire dans le repère du
  porteur
• Analyse de la trajectoire déduction du
  mouvement de Poinsot
• Commande des miroirs tournants pour le suivi de
  lagresseur
• Calcul du risque dimpact
• Estimation dune distance de passage au plus près
  et dune date dimpact

12
Siredin (4/4) Algorithmique
Étude du mouvement de Poinsot et de lécart au
plus près des trajectoires
Calcul de linstant dimpact par régression
Distance de passage au plus près
13
Impact

• Analyse dinfluence
• MIRIAD Saint-Gobain

14
Analyse dinfluence (1/8) Exemple
Exemple un constructeur automobile dispose
dune machine-outil ayant plus dune centaine de
réglages possibles. Il veut optimiser les
réglages pour améliorer la performance.

• Mesure de linfluence des facteurs sur la
  performance
• Une première analyse mono-variée aide la
  sélection des variables.

• Sélection de facteurs influents
• On recherche le nombre minimum de facteurs, qui
  groupés, maximisent linfluence sur la
  performance.
• Modélisation robuste
• Proposition de zones de réglages optimales.

15
Analyse dinfluence (2/8) Influence
Information mutuelle
Entropie
Influence proportion dinformation contenue
par des indicateurs X qui explique une
performance Y.
16
Analyse dinfluence (3/8) Résultats

• Quantification
• On classifie la performance Y en maximisant son
  entropie.
• On classifie les indicateurs en maximisant
  linfluence des classifications sur la
  performance.

Influence sur la performance
Facteurs
17
Analyse dinfluence (4/8) Algorithme
Mesure dinfluence
Données
Quantification
Calcul dentropie
Erreur de quantification
Erreur dapproximation
Erreur de généralisation

• Mécanisme
• Lalgorithme doptimisation est un recuit-simulé.
• On maîtrise lerreur de calcul en tous les points
  du traitement.

18
Analyse dinfluence (5/8) Modélisation
multi-variée

• Analyse multi-variée
• Optimisation de croisements de classifications
  mono-variées.
• Loptimisation est basée sur le critère
  dinfluence.
• recuit-simulé
• une évolution lente de la population
  dindicateurs par un algorithme génétique.
• Le critère dinfluence évite la production
  dindicateurs croisés de trop forte entropie.

19
Analyse dinfluence (6/8) Production de verre
Four à verre
Cause potentielles de bouillons Cause potentielles de bouillons
RESUR Déplacement du point de résurgence
PROFIL Dispersion du profil de la répartition énergétique
PRESSION Pression dans le four
TIREE Vitesse de tirée
COMBRED Combustion trop réductrice

20
Analyse dinfluence (7/8) Synchronisation

• Synchronisation de mesures
• Un réseau de neurones récurrent déterministe
  implémente un filtre non linéaire.
• Le réseau est initialisé par la représentation
  markovienne dun filtre stationnaire.

IJCNN Orlando 94
Desai, Pal, Aoki, Akaiké,
Robotic Systems 98
21
Analyse dinfluence (8/8) Analyse

• Conception dindicateurs de causes potentielles
• Les experts du procédé isolent des groupes de
  capteurs et des variables détat dont les
  variations jointes correspondent à des phénomènes
  physiques précis.
• Analyse dinfluence
• Lanalyse dinfluence identifie les causes et
  conjonctions de causes correspondant à une
  dégradation de la qualité.

Classification des causes potentielles
22
Projets Miriad Équipes de recherche
StoNe
Siredin
Impact
Patrick Garda Chef de Projet
Jérôme Lacaille MdC CMLA
Jérôme Lacaille MdC CMLA
Jean-Pascal Crametz Cherch. Polytechnique
Ch. Labourdette Ingénieur CMLA
Laurent Younes Chercheur DIAM
Stéphane Herbin Thésard CMLA
Oussama Chérif Thésard CMLA
Eric Belhair Chercheur Électronique
Eric LHomer Thésard CMLA
Franck Taïeb Thésard CMLA
Jérôme Lacaille MdC CMLA
Stéphane Gervais Ingénieur Miriad
Arnault Delfosse Ingénieur Miriad
Stéphane Gervais Ingénieur Miriad
Thibault Delahodde Ingénieur Système
Marcial Mancip Stagiaire inst. Galilée
Gabriel Le Daim Stagiaire inst. Galilée
Samir Bou Obeid Ingénieur Centrale Paris
Frédéric Talliani Ingénieur IHM
Jocelyn Camerol Ingénieur Miriad
23
Miriad-Process

• Atelier de développement et de déploiement
• MIRIAD
• Commercialisé aujourdhui sous le nom de  Md A3
  Builder 

24
Miriad-Process (1/5) Industrialisation
dalgorithmes
Besoin
Réponse

• Industrialisation dalgorithmes mathématiques
• Mathématique
• Organisation et structure du code
• Incorporation de codes externes
• Développement dalgorithmes
• Documentation méthodologique
• Test méthodologiques
• Optimisation algorithmique
• Informatique
• Programmation de composants
• Tests et benchmarks
• Optimisation de performances
• Documentation utilisateur
• Assemblage de logiciels

• Atelier de développement
• Conception dalgorithmes
• Environnement de développement mathématique
• Normes, structure
• Contrôle de la qualité
• Partage de codes
• Gestion dune base de connaissances
• Interface interactive
• Production de logiciels
• Compiler des applications
• Intégrer des solutions
• Déployer dans lentreprise

25
Miriad-Process (2/5) Principe

• Concept
• Archiver des algorithmes mathématiques
• Gérer les algorithmes auto-adaptatifs
• Apprentissages par observation des données
• Séquencer des graphes de traitements complexes
• Combinaisons de plusieurs algorithmes adaptatifs
• Parallélisme et asynchronisme du séquencement

26
Miriad-Process (3/5) Latelier
Industrialisation
Logiciel Informatique
Concept Mathématique
Réutilisation
Assemblage
Intégration
Codes
Modules
Graphes
Produits
Plate-forme de développement scientifique
Synoptiques
Miriad-Process
Pilotes
Plate-forme dintégration logicielle
Agents
Applications
27
Miriad-Process (4/5) Séquencement

• Transfert
• Les données dentrée sont traitées et transmises
• Attente
• Le module accumule des données jusquà en avoir
  assez pour effectuer un calcul
• Production
• Létat du module lui permet de générer des
  données
• Apprentissage
• Le module accumule des données pour son calibrage

Fenêtre glissante ou distribution dun capteurs
multi-varié
Production
Attente
Apprentissage
Transfert
Apprentissage glissant ou vectorisé
28
Miriad-Process (5/5) Compilation dagents
Séquenceur
Mathématiques
Informatique
Composant
Doc utilisateur
Code mathématique
Doc scientifique
compilation
Agent
Doc technique
Composant
Module
Interface
Contrôleur
RD
Clients
Projet - Étude
Application
29
Réalisation (1/5) Synoptique SEP

• Étude du démarrage du moteur vulcain
• Analyse des 12 premières secondes
• Détection danomalies
• Méthodologie
• Détection dinstants caractéristiques
• Ondelettes, détecteurs de formes
• Plus de 300 réseaux de neurones
• Perceptrons à 5 couches

30
Réalisations (2/5) Pilote Textile

• Procédé de blanchiment de textile
• Étude de de la qualité du procédé
• Remontée aux causes de dégradation
• Méthodologie
• Analyse dinfluence

31
Réalisations (3/5) MdScan - MdScanAcoustique

• Méthodologies
• Détecteurs spécifiques
• Courbures, Fourrier, ondelettes
• Réseaux de neurones
• Diagnostics danomalies
• Modèles stochastiques
• Fusion de scores
• Modélisation de distributions

• MdScan
• Détection de formes
• Temporelles (TraderForce)
• Fréquentielles (Dassault)
• Acoustiques (Airbus)
• Diagnostics danomalie
• Synthèses de diagnostics

32
Réalisations (4/5) Flexible Golden Pattern
Repérage danomalies Micro-électronique
(SI-Automation).
Suivi des taux de charge Réseau informatique
(Procédé auto-adaptatif)
Contrôle de compresseurs doxygène Détection
Sur-consommation (Air Liquide)
33
Réalisations (5/5) MdImpact

• Un outil algorithmique de défrichage de données.
• Études (Renault F1, Renault Cléon, Michelin, ).
• Analyse a priori (Rhodia, HPCII, CTAS, Dior,
  Rhône-Poulenc, ).
• Interface graphique interactive
• Démonstrations originales.
• Une intégration complète dans Miriad-Process.
• Add-On Excel.
• Application danalyse générique.
• On en dérive plusieurs composants
• Monitoring de procédés industriels
  (Rhodia,ST-Microélectronics).
• Générations de règles (Ilog), initialisation de
  la structure de réseaux de neurones.
• Production dalarmes.

34
Les équipes Algorithmiques RD et Études
Études
RD
(1998-2001)
Jérôme Lacaille RD
Mathilde Mougeot Projets
Sarah Bardin Assistante
Bruno Durand Client
Gilles Colliot Logiciel
Marc Abitbol IHM
Eduard Naum Data
Éric LHomer Algo
Franck Lefèvre Support
Charles Lehalle Études
Bruce Heller
Nicolas Delsaux
Thomas Gillon
Jérôme Besnard
J. F. Legrand
Peggy Gaillon
Hugues Frevilles
Mireille Couri
Xavier Blanc
Abdallah Maazi
Sylvie Sellier
B. Granado
Christ. Boulay
Valentine Ogier
K. Fakhr-Eddine
Benjamin Rey
Fabrice Gaudier
Th. Le Gallais
Bruno Grappin
Matthieu Spaier
Samuel Séné
Mohamed Attik
Olivier Gérard
(2002-2004)
Laurent Ménet
Laétitia Vo
David Krief
35
Défectivité

• Analyse de la défectivité dans la production de
  semi-conducteurs
• MIRIAD ST Microelectronics

36
Micro-électronique (1/3) Un cas détude
Défectivité les wafers sont des disques de
silicium sur lesquels on grave les puces
électroniques. La production utilise plusieurs
étapes dusinage (350), environ toutes les 10
étapes on prend une photographie du wafer sur
laquelle on quantifie le nombre de
défauts/particules.
Étape
Inspection

Route
Tests
Rendement un rendement par wafer est calculé à
la sortie de la FAB. Il mesure la qualité du
wafer le nombre de puces électriquement bonnes
sur le nombre total de puces.
Production plusieurs produits sont usinés par
les mêmes machines, plusieurs machines dun même
atelier peuvent réaliser une étape. Les machines
disposent de plusieurs chambres travaillant en
série et/ou en parallèle.
Une première étude danalyse dinfluence met en
évidence la disponibilité dinformation dans les
mesures de défectivité pour expliquer le
rendement.
Cela sexplique par le fait quen production 80
des problèmes de défectivité sont apportés par
les équipements et les recettes de procédé
associées. Ces défauts sont en grande partie
détectable optiquement.
37
Micro-électronique (2/3) Proposition de solution
On spécifie un système dagents distribués
réalisant chacun une estimation de la probabilité
de produire avec un mauvais rendement.

• Les projections sont des synthèses des
  distributions de risques conditionnées par
  différents critères
• Produits on recherche les produits les plus
  difficile à fabriquer.
• Lanalyse se décompose en technologie, devices
  (mémoires, logiques) et produits finis.
• Équipements on repère les équipements fautifs
  responsables de dégradation.
• Lanalyse peut aussi se ramener à latelier, la
  machine, la chambre.

Risques de mauvais rendement
Rapports de nuisance
défectivité
Alerte
Risque
Projection
Alerte
Risque
Alerte
Projection
route
Risque

• Une population dagents calcule des risques de
  mauvais rendement il sagit destimer la
  probabilité de ne pas avoir un rendement parfait.
• Chaque agent diffère des autres par ses entrées
  et la plage de données utilisées pour son
  calibrage.
• Chaque agent mémorise un état de la production
  suivant un contexte dépendant à la fois de la
  production et du temps.

Distribution du risque de mauvais rendement
utilisation
Mesure dadéquation du risque au contexte
dapprentissage
Agent
Qualité du calibrage et fiabilité de lagent
apprentissage
38
Micro-électronique (3/3) Prototype
Bonne fiabilité
Rendement observé
Mesures
Étapes
Technologie récente
Risque
Risque élevé Mauvais rendement
Qualité

• Projection le premier graphe présente une
  synthèse des risques suivant le contexte
  technologique. On obtient une mesure de risque et
  des marges derreur à 99 par technologie.
• A chaque mesure est associé un calcul de
  fiabilité de lestimateur du risque. Cette
  fiabilité dépend
• de la représentativité de la base dapprentissage
  
• et de ladéquation des mesures à cette base.
• La distribution connue des rendements est
  superposée au graphe (médiane et quantiles à 25
  et 75).

Un des agents a donné un résultat intéressant. Il
permet de dégager une série de wafers dont on
aurait pu prévoir la dégradation bien en amont
dans la production. Qualité lagent maîtrise sa
robustesse en utilisant un algorithme de
bootstrap. Lerreur de généralisation est donnée
par la largeur des bandes jaunes.
39
Conclusion

• Jadresse mes remerciements à
• Robert Azencott
• Directeur de recherche depuis 1988
• Fondateur et président de Miriad.
• Léquipe de développement de Miriad
• Pour son enthousiasme et le plaisir de travailler
  avec eux.
• Le département de Mathématiques de lENS de
  Cachan
• Pour mavoir permis de conserver un cours de DEA
  ces 5 dernière années.
• Marie Cottrel et le SAMOS
• Car cest grâce à Marie que je peux soutenir
  cette habilitaton aujourdhui à Paris 1.
• Pour mavoir toujours soutenu
• Léquipe du DIAM
• Et tant dautres qui jespère ne men voudront
  pas trop de ne pas les citer.

• Et je remercie les clients de Miriad pour leur
  confiance
• SEP
• EADS/Airbus
• Dassault
• CEA
• Rhone-Poulenc, Rhodia
• ELF
• Saint Gobain
• Air Liquide, Ales
• Schneider
• Lesaffre, Aventis
• Christian Dior
• CPR
• SGAM
• Prost GP
• PSA
• Renault
• Altis Semi-conducteurs

• EDF-GDF
• Christian Dior
• ITF, SAIC, SIPP

40
Document et présentation disponibles sur Internet
http//www.cmla.ens-cachan.fr/lacaille/hdr.htm
41
StoNe (3/5) Machines de Boltzmann
Réseau de neurones
Apprentissage
Champ de Gibbs
Échantillonneur Markovien
42
StoNe Réseau de neurones
Système de voisinage sur un réseau de neurones à
cliques
Transitions markoviennes
Spécifications locales
43
StoNe Apprentissage (1)
Minimisation dune erreur moyenne
44
StoNe Apprentissage (2)
Minimisation dune erreur moyenne (suite)
45
StoNe Apprentissage (3)
Comparaison de lois rétro-propagation
Information de Kullback
46
StoNe Apprentissage (4)
Comparaison de lois rétro-propagation (suite)
47
Synchronisation Méthode de Desaï et Pal
(performance, indicateur) à synchroniser
Passé
Futur
Corrélations temporelles
48
Synchronisation Réseau récurrent
49
Impact Erreur sur lentropie
Lentropie est estimée à partir de proportions
empiriques.
Approximation de Neyman-perason
Théorème de Cochran
50
Miriad-Process Les modules auto-adaptatifs
Interface
Séquenceur
Module

Création RST
Paramétrage PRM
Démarrage DBU
Transfert TRF
Arrêt FIN
Séquencement SEQ
Accumulation ACC
Apprentissage APP
Affichage PLT
51
Miriad-Process Graphes
52
Miriad-Process Production et attente
53
Plan Détails supplémentaires
StoNe
Apprentissage
Réseau
Siredin
Impact
Synchronisation
Var(H)
Réseau récurrent
Projets
Miriad-Process
Graphes
Séquencement
Réalisations
STM
Conclusion
Organigramme