Algorithmique et Complexit

1
Algorithmique et Complexité

• Michel de Rougemont
• Université Paris II et LRI
• mdr_at_lri.fr
• http//www.lri.fr/mdr

1. Quest ce quun algorithme? Complexité dun
algorithme. 2. PNP et classes de complexité. 3.
Approximations. 4. Modèles de calcul. Sens et
dénotation.
2
Algorithmique et Complexité

• Existe-t-il un algorithme pour résoudre un
  problème?
• Quelles sont les propriétés dun algorithme A?
• Propriétes de Complexité
• Complexité en Temps (Espace)
• T(x) Etapes élémentaires sur x
• A est Polynomial si
• Kolmogorov Taille du plus petit programme.
  (Mesure qui peut être contradictoire avec la
  complexité en temps)
• Existe-t-il un algorithme polynomial, O(n), O(log
  n).?

3
Algorithmique
Al-Khowarizmi (800) Quest ce quune fonction
calculable? Fonction récursive (1936) Thèse
de Church Indécidabilité et Incomplétude
de Gödel Machine de Turing Machine
Universelle de Kleene
4
Fonctions calculables
Il existe des fonctions non calculables. Il
existe une hiérarchie de problèmes indécidables.
5
Algorithmique et informatique

• Fonction récursive Universelle
• Algorithme vs. Programme
• Propriétés dalgorithmes et de programmes.
• Programmation Linéaire.
• P depuis 1980
• Simplex, analysé depuis 2001
• Primalité P depuis 2002
• Factoriser ?
• Equilibre de Nash ?

6
Complexité
Classe P. Une fonction est P-calculable sil
existe un algorithme dont le nombre détapes
élémentaires sur une entrée de taille n est
toujours borné par .
Classe NP. Un problème est NP sil existe un
algorithme polynomial pour toujours vérifier une
solution.
Problème NP-complet. Un problème A est NP-complet
sil est NP et pour tout problème B dans NP il
existe une fonction f, P-calculable t.q. pour
tout x
S. Cook 72 R. Karp 73 PNP ? No 7 des
problèmes mathématiques pour le XXI s.
7
Algèbre linéaire
1. Fonctions classiques sur des matrices
entières
2. Optimisation
4
2
1
3
3. Problèmes NP
4. Problèmes coNP
8
Hiérachie polynomiale
Permanent
Maxcut
coNP
NP
Factoriser
P
Iso
Non-Iso
Det, Inversion, Primalité
9
Programmation linéaire PL

• Simplex
• NP-complétude en nombre entier
• Non approximation (1990)
• Efficacité moyenne du simplex

• PL(A,b,c,k) comment decider si c.x lt k ?
• k lt Max trouver une solution x
• k gt Max trouver une solution du Dual
• Principe MinMax

PL est P-calculable. (1980) Ellipsoid
(Points-intérieurs)
10
Analyse du Simplex D. Spielman, M.I.T., 2001

• Simplex peut être exponentiel.
• Simplex EST polynomial pour la complexité de
  lissage.
• Application pratique modifier aléatoirement la
  matrice A, et lalgorithme converge plus vite.

11
ApproximationCalcul probabiliste
Définition
t
sil existe un algorithme probabiliste A tel
que

• Si f(x)1, Prob A accepte gt 2/3
• Si f(x)0, Prob A rejette gt 2/3

Probabilité derreur
12
Hasard et algorithme
Jeu de Mikado
t
t
s
s
2 paquets
1 paquet
13
Marche aléatoire espace log n sur un graphe
symétrique à n sommets
c
c
d
s
s
e
d
e
b
b

• 00 vers c
• 01 vers d
• vers e
• 11 vers b

Au départ du sommet s, 2 tirages
Pas de  preuve  dun chemin entre s et t.
14
Analyse dune marche aléatoire

• Cas 1. Connexe.
• Après étapes
• Pr erreur lt1/3
• Cas 2. Non-Connexe.
• Après
• Pr erreur 0

s
La marche arrive à t.
s
15
Calcul et hasard

• Espace Logarithmique
• s-t Connexité
• Temps polynomial probabiliste
• (classe BPP, Machine de Turing probabiliste)
• Permanent est approximable
• (Jerrum, Sinclair 1999, marche aléatoire à
  mélange rapide)
• Factorisation reste difficile
• Temps polynomial quantique
• Factorisation est facile (Shor, 1996)

16
Approximation

• Fonctions
• A approxime
• Relations
• Dist (R,S) x
• if Dist(R,S) lt

17
Maxcut

• Problème NP-complet
• Problème de Maximisation
• Approximable en temps polynomial

Coupe de taille 9
18
Approximation de Maxcut

• Principe général pour une large classe de
  problèmes
• Sous-graphe aléatoire
• Evaluer Maxcut sur le sous-graphe
• Combiner les estimations

Sous-graphe aléatoire
19
Hasard et Hiérarchie polynomiale
P étendu à BPP NP étendu à IP
IP
Perm
BPP
Maxcut
coNP
NP
Factorisation
P
Non-Iso
20
Modèles de Calcul

• 1. Modèle quantique
• 2. Modèles biologiques
• 3. Modèle du WEB
• Distribution de calculs
• Modèle Economique. Un algorithme distribué
  définit des équilibres pour un jeu. Mécanisme.
• Algorithmique des jeux
• Comment réguler le Web (SPAM, Sécurité.)?
• 4. Percevoir, Sciences du langage.

21
Sens et dénotation

• Dénotation et Intension
• Quel est le  sens  dune expression?

 int f(x) return (2x1)   Létoile du
matin est létoile du soir  Intensions
propriétés autres que la dénotation Complexité,
robustesse,. Sens (Moschovakis 2000)
Algorithme qui définit les intensions.
22
Conclusion

• Algorithmique
• Existence, fonction calculable
• Analyse (Simplex)
• Complexité
• Classes de Complexité
• Existence dalgorithme efficace
• Approximations
• Calcul probabiliste
• Testeurs/Correcteurs
• Modèles de Calcul
• Sens et Dénotation.

23
Vérification polynomialeNP
Il existe une fonction t.q.
L est dans NP sil existe une fonction g dans
P t.q.
Pour la fonction
On ne connaît pas de telle fonction g!! La
fonction est le complément de Cest une
fonction de co-NP.
24
Isomorphisme de graphes
5
4
4
3
3
5
1
1
2
2
1 2 3 4 5 1 3 2 4 5
Permutation
Preuve de lisomorphisme 13245
25
Non-Isomorphisme de graphes
5
4
4
3
3
5
1
1
2
2
1 2 3 4 5 1 3 2 4 5 ne maintient pas (1,4)
Aucune Permutation ne maintient un isomorphisme
Preuve du non-isomorphisme Enumérer n!
Permutations (120)
26
Vérification probabiliste

• Comment vérifier avec un protocole?
• V choisit 1,2 et
• construit
• P envoit .
• Si , P.V1, sinon P.V0

P
V
0 (1/2) 1 (1/2)

• L admet une preuve interactive, sil existe un
• protocole t.q pour tout x
• Si , Prob P.V(x)1 1
• Si , Prob P.V(x)1 lt 1/2

27
Preuve Interactive
A
B
Bob pose des questions à Alice (qui peut
mentir) Bob utilise le hasard. Après un temps
court (polynomial), Bob Accepte ou rejette.
28
O-connaissance de lisomorphisme
h(G1)H
h
A
B
i1
Preuve classique A transmet h (ex
13245) Preuve interactive Alice génère h
aléatoire, calcule h(G1)H, transmis à Bob tire
i au sort. Alice envoie h, liso. entre H et
Gi